Greennode Embedding Large VN V1

🚀 SentenceTransformer

這是一個經過訓練的 sentence-transformers 模型。它可以將句子和段落映射到一個 1024 維的密集向量空間，可用於語義文本相似度計算、語義搜索、釋義挖掘、文本分類、聚類等任務。

🚀 快速開始

本模型可用於語義文本相似度計算、語義搜索、釋義挖掘、文本分類、聚類等多種任務。你可以按照以下步驟使用該模型。

✨ 主要特性

• 能夠將句子和段落映射到 1024 維的密集向量空間。
• 支持多種自然語言處理任務，如語義文本相似度計算、語義搜索等。
• 採用餘弦相似度作為相似度計算函數。

📦 安裝指南

首先，你需要安裝 Sentence Transformers 庫：

pip install -U sentence-transformers

💻 使用示例

基礎用法

from sentence_transformers import SentenceTransformer

# 從 🤗 Hub 下載模型
model = SentenceTransformer("sentence_transformers_model_id")
# 運行推理
sentences = [
    'The weather is lovely today.',
    "It's so sunny outside!",
    'He drove to the stadium.',
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 1024]

# 獲取嵌入向量的相似度分數
similarities = model.similarity(embeddings, embeddings)
print(similarities.shape)
# [3, 3]

📚 詳細文檔

模型詳情

模型描述

模型來源

• 文檔：Sentence Transformers 文檔
• 倉庫：GitHub 上的 Sentence Transformers
• Hugging Face：Hugging Face 上的 Sentence Transformers

完整模型架構

SentenceTransformer(
  (0): Transformer({'max_seq_length': 8192, 'do_lower_case': False}) with Transformer model: XLMRobertaModel 
  (1): Pooling({'word_embedding_dimension': 1024, 'pooling_mode_cls_token': True, 'pooling_mode_mean_tokens': False, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
  (2): Normalize()
)

評估

表：各模型在 GreenNodeTableRetrieval 上的性能比較

數據集：GreenNode/GreenNode-Table-Markdown-Retrieval

表：各模型在 ZacLegalTextRetrieval 上的性能比較

數據集：GreenNode/zalo-ai-legal-text-retrieval-vn

表：各模型在 VieQuADRetrieval 上的性能比較

數據集：taidng/UIT-ViQuAD2.0

表：各模型在 GreenNodeTableRetrieval 上的命中率比較

框架版本

• Python: 3.10.14
• Sentence Transformers: 3.0.1
• Transformers: 4.42.4
• PyTorch: 2.3.1
• Accelerate: 0.33.0
• Datasets: 2.20.0
• Tokenizers: 0.19.1

🔧 技術細節

本模型基於 Sentence Transformers 庫進行訓練，使用了 XLMRobertaModel 作為基礎模型，並通過池化層和歸一化層將句子和段落映射到 1024 維的密集向量空間。訓練數據集為 GreenNode/GreenNode-Table-Markdown-Retrieval，採用餘弦相似度作為相似度計算函數。

📄 許可證

本模型使用的許可證為 cc-by-4.0。

引用

BibTeX

（原文檔此處無內容，故跳過）