Greennode Embedding Large VN Mixed V1
模型简介
该模型专门针对越南语优化,同时支持英语,适用于语义文本相似性、语义搜索、文本分类和聚类等任务。
模型特点
多语言支持
同时支持越南语和英语的文本嵌入
长文本处理
支持最大8192个标记的长文本序列
高性能检索
在越南语文本检索任务上表现优于同类模型
大向量空间
输出1024维的密集向量表示
模型能力
语义文本相似度计算
语义搜索
文本分类
文本聚类
特征提取
使用案例
信息检索
法律文档检索
在法律文档库中检索相关法律条文
在ZacLegalTextRetrieval数据集上达到74.95%的平均性能
表格数据检索
从结构化表格中检索相关信息
在GreenNodeTableRetrieval数据集上达到44.89%的平均性能
问答系统
越南语问答
构建越南语问答系统的检索模块
在VieQuADRetrieval数据集上达到56.86%的平均性能
🚀 SentenceTransformer
SentenceTransformer 是一个经过训练的 sentence-transformers 模型。它可以将句子和段落映射到一个 1024 维的密集向量空间,可用于语义文本相似度计算、语义搜索、释义挖掘、文本分类、聚类等任务。
🚀 快速开始
直接使用(Sentence Transformers)
首先安装 Sentence Transformers 库:
pip install -U sentence-transformers
然后你可以加载这个模型并进行推理。
from sentence_transformers import SentenceTransformer
# 从 🤗 Hub 下载
model = SentenceTransformer("GreenNode/GreenNode-Embedding-Large-VN-Mixed-V1")
# 进行推理
sentences = [
'The weather is lovely today.',
"It's so sunny outside!",
'He drove to the stadium.',
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 1024]
# 获取嵌入向量的相似度分数
similarities = model.similarity(embeddings, embeddings)
print(similarities.shape)
# [3, 3]
✨ 主要特性
- 多用途:可用于语义文本相似度计算、语义搜索、释义挖掘、文本分类、聚类等多种自然语言处理任务。
- 高维映射:能够将句子和段落映射到 1024 维的密集向量空间。
- 支持多语言:支持越南语等多种语言。
📦 安装指南
pip install -U sentence-transformers
💻 使用示例
基础用法
from sentence_transformers import SentenceTransformer
# 从 🤗 Hub 下载
model = SentenceTransformer("GreenNode/GreenNode-Embedding-Large-VN-Mixed-V1")
# 进行推理
sentences = [
'The weather is lovely today.',
"It's so sunny outside!",
'He drove to the stadium.',
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 1024]
# 获取嵌入向量的相似度分数
similarities = model.similarity(embeddings, embeddings)
print(similarities.shape)
# [3, 3]
📚 详细文档
模型详情
模型描述
属性 | 详情 |
---|---|
模型类型 | Sentence Transformer |
最大序列长度 | 8192 个标记 |
输出维度 | 1024 个标记 |
相似度函数 | 余弦相似度 |
训练数据集 | GreenNode/GreenNode-Table-Markdown-Retrieval |
语言 | 越南语 |
模型来源
- 文档:Sentence Transformers 文档
- 仓库:GitHub 上的 Sentence Transformers
- Hugging Face:Hugging Face 上的 Sentence Transformers
完整模型架构
SentenceTransformer(
(0): Transformer({'max_seq_length': 8192, 'do_lower_case': False}) with Transformer model: XLMRobertaModel
(1): Pooling({'word_embedding_dimension': 1024, 'pooling_mode_cls_token': True, 'pooling_mode_mean_tokens': False, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
(2): Normalize()
)
评估
表:各模型在 GreenNodeTableRetrieval 上的性能比较
数据集:GreenNode/GreenNode-Table-Markdown-Retrieval
模型名称 | MAP@5 ↑ | MRR@5 ↑ | NDCG@5 ↑ | Recall@5 ↑ | Mean ↑ |
---|---|---|---|---|---|
多语言嵌入模型 | |||||
me5_small | 33.75 | 33.75 | 35.68 | 41.49 | 36.17 |
me5_large | 38.16 | 38.16 | 40.27 | 46.62 | 40.80 |
M3-Embedding | 36.52 | 36.52 | 38.60 | 44.84 | 39.12 |
OpenAI-embedding-v3 | 30.61 | 30.61 | 32.57 | 38.46 | 33.06 |
越南语嵌入模型(先前工作) | |||||
halong-embedding | 32.15 | 32.15 | 34.13 | 40.09 | 34.63 |
sup-SimCSE-VietNamese-phobert_base | 10.90 | 10.90 | 12.03 | 15.41 | 12.31 |
vietnamese-bi-encoder | 13.61 | 13.61 | 14.63 | 17.68 | 14.89 |
GreenNode-Embedding(我们的工作) | |||||
M3-GN-VN | 41.85 | 41.85 | 44.15 | 57.05 | 46.23 |
M3-GN-VN-Mixed | 42.08 | 42.08 | 44.33 | 51.06 | 44.89 |
表:各模型在 ZacLegalTextRetrieval 上的性能比较
数据集:GreenNode/zalo-ai-legal-text-retrieval-vn
模型名称 | MAP@5 ↑ | MRR@5 ↑ | NDCG@5 ↑ | Recall@5 ↑ | Mean ↑ |
---|---|---|---|---|---|
多语言嵌入模型 | |||||
me5_small | 54.68 | 54.37 | 58.32 | 69.16 | 59.13 |
me5_large | 60.14 | 59.62 | 64.17 | 76.02 | 64.99 |
M3-Embedding | 69.34 | 68.96 | 73.70 | 86.68 | 74.67 |
OpenAI-embedding-v3 | 38.68 | 38.80 | 41.53 | 49.94 | 41.74 |
越南语嵌入模型(先前工作) | |||||
halong-embedding | 52.57 | 52.28 | 56.64 | 68.72 | 57.55 |
sup-SimCSE-VietNamese-phobert_base | 25.15 | 25.07 | 27.81 | 35.79 | 28.46 |
vietnamese-bi-encoder | 54.88 | 54.47 | 59.10 | 79.51 | 61.99 |
GreenNode-Embedding(我们的工作) | |||||
M3-GN-VN | 65.03 | 64.80 | 69.19 | 81.66 | 70.17 |
M3-GN-VN-Mixed | 69.75 | 69.28 | 74.01 | 86.74 | 74.95 |
表:各模型在 VieQuADRetrieval 上的性能比较
模型名称 | MAP@5 ↑ | MRR@5 ↑ | NDCG@5 ↑ | Recall@5 ↑ | Mean ↑ |
---|---|---|---|---|---|
多语言嵌入模型 | |||||
me5_small | 40.42 | 69.21 | 50.05 | 50.71 | 52.60 |
me5_large | 44.18 | 67.81 | 53.04 | 55.86 | 55.22 |
M3-Embedding | 44.08 | 72.28 | 54.07 | 56.01 | 56.61 |
OpenAI-embedding-v3 | 32.39 | 53.97 | 40.48 | 43.02 | 42.47 |
越南语嵌入模型(先前工作) | |||||
halong-embedding | 39.42 | 62.31 | 48.63 | 52.73 | 50.77 |
sup-SimCSE-VietNamese-phobert_base | 20.45 | 35.99 | 26.73 | 29.59 | 28.19 |
vietnamese-bi-encoder | 31.89 | 54.62 | 40.26 | 42.53 | 42.33 |
GreenNode-Embedding(我们的工作) | |||||
M3-GN-VN | 42.85 | 71.98 | 52.90 | 54.25 | 55.50 |
M3-GN-VN-Mixed | 44.20 | 72.64 | 54.30 | 56.30 | 56.86 |
表:各模型在 GreenNodeTableRetrieval 上的命中率比较
模型名称 | Hit Rate@1 ↑ | Hit Rate@5 ↑ | Hit Rate@10 ↑ | Hit Rate@20 ↑ |
---|---|---|---|---|
多语言嵌入模型 | ||||
me5_small | 38.99 | 53.37 | 59.28 | 65.09 |
me5_large | 43.99 | 59.74 | 65.74 | 71.59 |
bge-m3 | 42.15 | 57.00 | 63.05 | 68.96 |
OpenAI-embedding-v3 | - | - | - | - |
越南语嵌入模型(先前工作) | ||||
halong-embedding | 37.22 | 52.49 | 58.57 | 64.64 |
sup-SimCSE-VietNamese-phobert_base | 14.00 | 24.74 | 30.32 | 36.44 |
vietnamese-bi-encoder | 16.89 | 25.94 | 30.50 | 35.70 |
GreenNode-Embedding(我们的工作) | ||||
M3-GN-VN | 48.31 | 64.60 | 70.83 | 76.46 |
M3-GN-VN-Mixed | 47.94 | 64.24 | 70.43 | 76.14 |
框架版本
- Python: 3.10.14
- Sentence Transformers: 3.0.1
- Transformers: 4.42.4
- PyTorch: 2.3.1
- Accelerate: 0.33.0
- Datasets: 2.20.0
- Tokenizers: 0.19.1
🔗 关注我们
🛠️ 支持
📄 许可证
本仓库和模型权重遵循 MIT 许可证。
📧 联系我们
- 一般咨询与合作:tung.vu@greennode.ai, thuvt@greennode.ai
- 技术问题:viethq5@greennode.ai
Jina Embeddings V3
Jina Embeddings V3 是一个多语言句子嵌入模型,支持超过100种语言,专注于句子相似度和特征提取任务。
文本嵌入
Transformers 支持多种语言

J
jinaai
3.7M
911
Ms Marco MiniLM L6 V2
Apache-2.0
基于MS Marco段落排序任务训练的交叉编码器模型,用于信息检索中的查询-段落相关性评分
文本嵌入 英语
M
cross-encoder
2.5M
86
Opensearch Neural Sparse Encoding Doc V2 Distill
Apache-2.0
基于蒸馏技术的稀疏检索模型,专为OpenSearch优化,支持免推理文档编码,在搜索相关性和效率上优于V1版本
文本嵌入
Transformers 英语

O
opensearch-project
1.8M
7
Sapbert From PubMedBERT Fulltext
Apache-2.0
基于PubMedBERT的生物医学实体表征模型,通过自对齐预训练优化语义关系捕捉
文本嵌入 英语
S
cambridgeltl
1.7M
49
Gte Large
MIT
GTE-Large 是一个强大的句子转换器模型,专注于句子相似度和文本嵌入任务,在多个基准测试中表现出色。
文本嵌入 英语
G
thenlper
1.5M
278
Gte Base En V1.5
Apache-2.0
GTE-base-en-v1.5 是一个英文句子转换器模型,专注于句子相似度任务,在多个文本嵌入基准测试中表现优异。
文本嵌入
Transformers 支持多种语言

G
Alibaba-NLP
1.5M
63
Gte Multilingual Base
Apache-2.0
GTE Multilingual Base 是一个多语言的句子嵌入模型,支持超过50种语言,适用于句子相似度计算等任务。
文本嵌入
Transformers 支持多种语言

G
Alibaba-NLP
1.2M
246
Polybert
polyBERT是一个化学语言模型,旨在实现完全由机器驱动的超快聚合物信息学。它将PSMILES字符串映射为600维密集指纹,以数值形式表示聚合物化学结构。
文本嵌入
Transformers

P
kuelumbus
1.0M
5
Bert Base Turkish Cased Mean Nli Stsb Tr
Apache-2.0
基于土耳其语BERT的句子嵌入模型,专为语义相似度任务优化
文本嵌入
Transformers 其他

B
emrecan
1.0M
40
GIST Small Embedding V0
MIT
基于BAAI/bge-small-en-v1.5模型微调的文本嵌入模型,通过MEDI数据集与MTEB分类任务数据集训练,优化了检索任务的查询编码能力。
文本嵌入
Safetensors 英语
G
avsolatorio
945.68k
29
精选推荐AI模型
Llama 3 Typhoon V1.5x 8b Instruct
专为泰语设计的80亿参数指令模型,性能媲美GPT-3.5-turbo,优化了应用场景、检索增强生成、受限生成和推理任务
大型语言模型
Transformers 支持多种语言

L
scb10x
3,269
16
Cadet Tiny
Openrail
Cadet-Tiny是一个基于SODA数据集训练的超小型对话模型,专为边缘设备推理设计,体积仅为Cosmo-3B模型的2%左右。
对话系统
Transformers 英语

C
ToddGoldfarb
2,691
6
Roberta Base Chinese Extractive Qa
基于RoBERTa架构的中文抽取式问答模型,适用于从给定文本中提取答案的任务。
问答系统 中文
R
uer
2,694
98