Greennode Embedding Large VN Mixed V1
模型概述
該模型專門針對越南語優化,同時支持英語,適用於語義文本相似性、語義搜索、文本分類和聚類等任務。
模型特點
多語言支持
同時支持越南語和英語的文本嵌入
長文本處理
支持最大8192個標記的長文本序列
高性能檢索
在越南語文本檢索任務上表現優於同類模型
大向量空間
輸出1024維的密集向量表示
模型能力
語義文本相似度計算
語義搜索
文本分類
文本聚類
特徵提取
使用案例
信息檢索
法律文檔檢索
在法律文檔庫中檢索相關法律條文
在ZacLegalTextRetrieval數據集上達到74.95%的平均性能
表格數據檢索
從結構化表格中檢索相關信息
在GreenNodeTableRetrieval數據集上達到44.89%的平均性能
問答系統
越南語問答
構建越南語問答系統的檢索模塊
在VieQuADRetrieval數據集上達到56.86%的平均性能
🚀 SentenceTransformer
SentenceTransformer 是一個經過訓練的 sentence-transformers 模型。它可以將句子和段落映射到一個 1024 維的密集向量空間,可用於語義文本相似度計算、語義搜索、釋義挖掘、文本分類、聚類等任務。
🚀 快速開始
直接使用(Sentence Transformers)
首先安裝 Sentence Transformers 庫:
pip install -U sentence-transformers
然後你可以加載這個模型並進行推理。
from sentence_transformers import SentenceTransformer
# 從 🤗 Hub 下載
model = SentenceTransformer("GreenNode/GreenNode-Embedding-Large-VN-Mixed-V1")
# 進行推理
sentences = [
'The weather is lovely today.',
"It's so sunny outside!",
'He drove to the stadium.',
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 1024]
# 獲取嵌入向量的相似度分數
similarities = model.similarity(embeddings, embeddings)
print(similarities.shape)
# [3, 3]
✨ 主要特性
- 多用途:可用於語義文本相似度計算、語義搜索、釋義挖掘、文本分類、聚類等多種自然語言處理任務。
- 高維映射:能夠將句子和段落映射到 1024 維的密集向量空間。
- 支持多語言:支持越南語等多種語言。
📦 安裝指南
pip install -U sentence-transformers
💻 使用示例
基礎用法
from sentence_transformers import SentenceTransformer
# 從 🤗 Hub 下載
model = SentenceTransformer("GreenNode/GreenNode-Embedding-Large-VN-Mixed-V1")
# 進行推理
sentences = [
'The weather is lovely today.',
"It's so sunny outside!",
'He drove to the stadium.',
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 1024]
# 獲取嵌入向量的相似度分數
similarities = model.similarity(embeddings, embeddings)
print(similarities.shape)
# [3, 3]
📚 詳細文檔
模型詳情
模型描述
屬性 | 詳情 |
---|---|
模型類型 | Sentence Transformer |
最大序列長度 | 8192 個標記 |
輸出維度 | 1024 個標記 |
相似度函數 | 餘弦相似度 |
訓練數據集 | GreenNode/GreenNode-Table-Markdown-Retrieval |
語言 | 越南語 |
模型來源
- 文檔:Sentence Transformers 文檔
- 倉庫:GitHub 上的 Sentence Transformers
- Hugging Face:Hugging Face 上的 Sentence Transformers
完整模型架構
SentenceTransformer(
(0): Transformer({'max_seq_length': 8192, 'do_lower_case': False}) with Transformer model: XLMRobertaModel
(1): Pooling({'word_embedding_dimension': 1024, 'pooling_mode_cls_token': True, 'pooling_mode_mean_tokens': False, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
(2): Normalize()
)
評估
表:各模型在 GreenNodeTableRetrieval 上的性能比較
數據集:GreenNode/GreenNode-Table-Markdown-Retrieval
模型名稱 | MAP@5 ↑ | MRR@5 ↑ | NDCG@5 ↑ | Recall@5 ↑ | Mean ↑ |
---|---|---|---|---|---|
多語言嵌入模型 | |||||
me5_small | 33.75 | 33.75 | 35.68 | 41.49 | 36.17 |
me5_large | 38.16 | 38.16 | 40.27 | 46.62 | 40.80 |
M3-Embedding | 36.52 | 36.52 | 38.60 | 44.84 | 39.12 |
OpenAI-embedding-v3 | 30.61 | 30.61 | 32.57 | 38.46 | 33.06 |
越南語嵌入模型(先前工作) | |||||
halong-embedding | 32.15 | 32.15 | 34.13 | 40.09 | 34.63 |
sup-SimCSE-VietNamese-phobert_base | 10.90 | 10.90 | 12.03 | 15.41 | 12.31 |
vietnamese-bi-encoder | 13.61 | 13.61 | 14.63 | 17.68 | 14.89 |
GreenNode-Embedding(我們的工作) | |||||
M3-GN-VN | 41.85 | 41.85 | 44.15 | 57.05 | 46.23 |
M3-GN-VN-Mixed | 42.08 | 42.08 | 44.33 | 51.06 | 44.89 |
表:各模型在 ZacLegalTextRetrieval 上的性能比較
數據集:GreenNode/zalo-ai-legal-text-retrieval-vn
模型名稱 | MAP@5 ↑ | MRR@5 ↑ | NDCG@5 ↑ | Recall@5 ↑ | Mean ↑ |
---|---|---|---|---|---|
多語言嵌入模型 | |||||
me5_small | 54.68 | 54.37 | 58.32 | 69.16 | 59.13 |
me5_large | 60.14 | 59.62 | 64.17 | 76.02 | 64.99 |
M3-Embedding | 69.34 | 68.96 | 73.70 | 86.68 | 74.67 |
OpenAI-embedding-v3 | 38.68 | 38.80 | 41.53 | 49.94 | 41.74 |
越南語嵌入模型(先前工作) | |||||
halong-embedding | 52.57 | 52.28 | 56.64 | 68.72 | 57.55 |
sup-SimCSE-VietNamese-phobert_base | 25.15 | 25.07 | 27.81 | 35.79 | 28.46 |
vietnamese-bi-encoder | 54.88 | 54.47 | 59.10 | 79.51 | 61.99 |
GreenNode-Embedding(我們的工作) | |||||
M3-GN-VN | 65.03 | 64.80 | 69.19 | 81.66 | 70.17 |
M3-GN-VN-Mixed | 69.75 | 69.28 | 74.01 | 86.74 | 74.95 |
表:各模型在 VieQuADRetrieval 上的性能比較
模型名稱 | MAP@5 ↑ | MRR@5 ↑ | NDCG@5 ↑ | Recall@5 ↑ | Mean ↑ |
---|---|---|---|---|---|
多語言嵌入模型 | |||||
me5_small | 40.42 | 69.21 | 50.05 | 50.71 | 52.60 |
me5_large | 44.18 | 67.81 | 53.04 | 55.86 | 55.22 |
M3-Embedding | 44.08 | 72.28 | 54.07 | 56.01 | 56.61 |
OpenAI-embedding-v3 | 32.39 | 53.97 | 40.48 | 43.02 | 42.47 |
越南語嵌入模型(先前工作) | |||||
halong-embedding | 39.42 | 62.31 | 48.63 | 52.73 | 50.77 |
sup-SimCSE-VietNamese-phobert_base | 20.45 | 35.99 | 26.73 | 29.59 | 28.19 |
vietnamese-bi-encoder | 31.89 | 54.62 | 40.26 | 42.53 | 42.33 |
GreenNode-Embedding(我們的工作) | |||||
M3-GN-VN | 42.85 | 71.98 | 52.90 | 54.25 | 55.50 |
M3-GN-VN-Mixed | 44.20 | 72.64 | 54.30 | 56.30 | 56.86 |
表:各模型在 GreenNodeTableRetrieval 上的命中率比較
模型名稱 | Hit Rate@1 ↑ | Hit Rate@5 ↑ | Hit Rate@10 ↑ | Hit Rate@20 ↑ |
---|---|---|---|---|
多語言嵌入模型 | ||||
me5_small | 38.99 | 53.37 | 59.28 | 65.09 |
me5_large | 43.99 | 59.74 | 65.74 | 71.59 |
bge-m3 | 42.15 | 57.00 | 63.05 | 68.96 |
OpenAI-embedding-v3 | - | - | - | - |
越南語嵌入模型(先前工作) | ||||
halong-embedding | 37.22 | 52.49 | 58.57 | 64.64 |
sup-SimCSE-VietNamese-phobert_base | 14.00 | 24.74 | 30.32 | 36.44 |
vietnamese-bi-encoder | 16.89 | 25.94 | 30.50 | 35.70 |
GreenNode-Embedding(我們的工作) | ||||
M3-GN-VN | 48.31 | 64.60 | 70.83 | 76.46 |
M3-GN-VN-Mixed | 47.94 | 64.24 | 70.43 | 76.14 |
框架版本
- Python: 3.10.14
- Sentence Transformers: 3.0.1
- Transformers: 4.42.4
- PyTorch: 2.3.1
- Accelerate: 0.33.0
- Datasets: 2.20.0
- Tokenizers: 0.19.1
🔗 關注我們
🛠️ 支持
📄 許可證
本倉庫和模型權重遵循 MIT 許可證。
📧 聯繫我們
- 一般諮詢與合作:tung.vu@greennode.ai, thuvt@greennode.ai
- 技術問題:viethq5@greennode.ai
Jina Embeddings V3
Jina Embeddings V3 是一個多語言句子嵌入模型,支持超過100種語言,專注於句子相似度和特徵提取任務。
文本嵌入
Transformers 支持多種語言

J
jinaai
3.7M
911
Ms Marco MiniLM L6 V2
Apache-2.0
基於MS Marco段落排序任務訓練的交叉編碼器模型,用於信息檢索中的查詢-段落相關性評分
文本嵌入 英語
M
cross-encoder
2.5M
86
Opensearch Neural Sparse Encoding Doc V2 Distill
Apache-2.0
基於蒸餾技術的稀疏檢索模型,專為OpenSearch優化,支持免推理文檔編碼,在搜索相關性和效率上優於V1版本
文本嵌入
Transformers 英語

O
opensearch-project
1.8M
7
Sapbert From PubMedBERT Fulltext
Apache-2.0
基於PubMedBERT的生物醫學實體表徵模型,通過自對齊預訓練優化語義關係捕捉
文本嵌入 英語
S
cambridgeltl
1.7M
49
Gte Large
MIT
GTE-Large 是一個強大的句子轉換器模型,專注於句子相似度和文本嵌入任務,在多個基準測試中表現出色。
文本嵌入 英語
G
thenlper
1.5M
278
Gte Base En V1.5
Apache-2.0
GTE-base-en-v1.5 是一個英文句子轉換器模型,專注於句子相似度任務,在多個文本嵌入基準測試中表現優異。
文本嵌入
Transformers 支持多種語言

G
Alibaba-NLP
1.5M
63
Gte Multilingual Base
Apache-2.0
GTE Multilingual Base 是一個多語言的句子嵌入模型,支持超過50種語言,適用於句子相似度計算等任務。
文本嵌入
Transformers 支持多種語言

G
Alibaba-NLP
1.2M
246
Polybert
polyBERT是一個化學語言模型,旨在實現完全由機器驅動的超快聚合物信息學。它將PSMILES字符串映射為600維密集指紋,以數值形式表示聚合物化學結構。
文本嵌入
Transformers

P
kuelumbus
1.0M
5
Bert Base Turkish Cased Mean Nli Stsb Tr
Apache-2.0
基於土耳其語BERT的句子嵌入模型,專為語義相似度任務優化
文本嵌入
Transformers 其他

B
emrecan
1.0M
40
GIST Small Embedding V0
MIT
基於BAAI/bge-small-en-v1.5模型微調的文本嵌入模型,通過MEDI數據集與MTEB分類任務數據集訓練,優化了檢索任務的查詢編碼能力。
文本嵌入
Safetensors 英語
G
avsolatorio
945.68k
29
精選推薦AI模型
Llama 3 Typhoon V1.5x 8b Instruct
專為泰語設計的80億參數指令模型,性能媲美GPT-3.5-turbo,優化了應用場景、檢索增強生成、受限生成和推理任務
大型語言模型
Transformers 支持多種語言

L
scb10x
3,269
16
Cadet Tiny
Openrail
Cadet-Tiny是一個基於SODA數據集訓練的超小型對話模型,專為邊緣設備推理設計,體積僅為Cosmo-3B模型的2%左右。
對話系統
Transformers 英語

C
ToddGoldfarb
2,691
6
Roberta Base Chinese Extractive Qa
基於RoBERTa架構的中文抽取式問答模型,適用於從給定文本中提取答案的任務。
問答系統 中文
R
uer
2,694
98