Persian Sentence Embedding V3

🚀 基於FacebookAI/xlm - roberta - large的句子轉換器

本項目基於sentence-transformers庫，微調自[FacebookAI/xlm - roberta - large](https://huggingface.co/FacebookAI/xlm - roberta - large)模型。它能將句子和段落映射到1024維的密集向量空間，可用於語義文本相似度計算、語義搜索、釋義挖掘、文本分類、聚類等任務。

🚀 快速開始

直接使用（Sentence Transformers）

首先，安裝Sentence Transformers庫：

pip install -U sentence-transformers

然後，加載模型並進行推理：

from sentence_transformers import SentenceTransformer

# 從🤗 Hub下載
model = SentenceTransformer("sentence_transformers_model_id")
# 進行推理
sentences = [
    'چه اتفاقی در مسجد الحرام برای عبدالمطلب و پسرش رخ داد؟',
    'در مسجد الحرام، عبدالمطلب و پسرش توسط ده مرد پابرهنه و شمشیر به دست، مورد حمله قرار گرفتند و از کشتن فرزند عبدالمطلب جلوگیری کردند. این حادثه باعث شد که مردم در مسجد الحرام غرق در هیاهو شوند و صداها درهم آمیخته و صدای زنان محو شود.',
    'قائم آل محمد (ص) به اراده الهی قیام کرده و زمانی که او قیام کند، دیگر از شرک و شرک\u200cگرایی اثری نخواهد ماند و دین حق همه دلها را نورباران می\u200cسازد. این مطلب از آیاتی که پیرامون وجود گرانمایه او تأویل شده است بسنده می\u200cشود و این امر در قرآن و روایات به طور جامع بیان شده است.',
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 1024]

# 獲取嵌入向量的相似度分數
similarities = model.similarity(embeddings, embeddings)
print(similarities.shape)
# [3, 3]

✨ 主要特性

• 支持多種語言，包括波斯語（fa）、英語（en）、阿拉伯語（ar）等。
• 基於FacebookAI/xlm - roberta - large模型微調，具有良好的語義表示能力。
• 可用於多種自然語言處理任務，如語義文本相似度計算、語義搜索等。

📚 詳細文檔

模型詳情

模型描述

模型來源

• 文檔：Sentence Transformers Documentation
• 代碼倉庫：[Sentence Transformers on GitHub](https://github.com/UKPLab/sentence - transformers)
• Hugging Face：[Sentence Transformers on Hugging Face](https://huggingface.co/models?library=sentence - transformers)

完整模型架構

SentenceTransformer(
  (0): Transformer({'max_seq_length': 512, 'do_lower_case': False}) with Transformer model: XLMRobertaModel 
  (1): Pooling({'word_embedding_dimension': 1024, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
)

訓練詳情

parsinlu_qqp_pair2class

• 數據集：parsinlu_qqp_pair2class
• 大小：4,644個訓練樣本
• 列：sentence1、sentence2和label
• 基於前1000個樣本的近似統計： | | sentence1 | sentence2 | label | | ---- | ---- | ---- | ---- | | 類型 | 字符串 | 字符串 | 整數 | | 詳情 |
  • 最小：5個詞元
  • 平均：15.58個詞元
  • 最大：50個詞元
  |
  • 最小：5個詞元
  • 平均：15.91個詞元
  • 最大：100個詞元
  |
  • 0：約61.70%
  • 1：約38.30%
  |
• 樣本： | sentence1 | sentence2 | label | | ---- | ---- | ---- | | چگونه می توانم کم کم وزن خود را کاهش دهم؟ | چگونه وزن کم کنم؟ | 1 | | چگونه استمناء بر قدرت تمرکز شخص تأثیر می گذارد؟ | آیا چرک روی لوزه ها می تواند نشانه ای از STD باشد؟ | 0 | | وقتی خواب کسی را دیدم و گفتم آنها در حال مرگ هستند ، چه معنایی دارد؟ | وقتی خواب می بینم که کسی در حال مرگ باشد معنی اش چیست؟ | 0 |
• 損失函數：ContrastiveLoss，參數如下：

{
    "distance_metric": "SiameseDistanceMetric.COSINE_DISTANCE",
    "margin": 0.5,
    "size_average": true
}

parsinlu_entail_pair3class

• 數據集：parsinlu_entail_pair3class，版本為c49b2d8
• 大小：2,697個訓練樣本
• 列：sentence1、sentence2和label
• 基於前1000個樣本的近似統計： | | sentence1 | sentence2 | label | | ---- | ---- | ---- | ---- | | 類型 | 字符串 | 字符串 | 整數 | | 詳情 |
  • 最小：3個詞元
  • 平均：34.16個詞元
  • 最大：203個詞元
  |
  • 最小：3個詞元
  • 平均：17.89個詞元
  • 最大：73個詞元
  |
  • 0：約39.30%
  • 1：約31.60%
  • 2：約29.10%
  |
• 樣本： | sentence1 | sentence2 | label | | ---- | ---- | ---- | | زنان به قدری بخش بزرگی از نیروی کار را تشکیل می دهند که به سختی می توان باور داشت که اگر این امر در مورد زنان صادق نباشد ، این امر می تواند صادق باشد. | مردان بخش عظیمی از نیروی کار هستند بنابراین تنها افراد مهم هستند. | 2 | | سالها است که کنگره در تلاش است تا اثربخشی مدیریت اطلاعات و فناوری را در دولت فدرال افزایش دهد. | کنگره بودجه ویژه ای برای مدیریت اطلاعات و فناوری در دولت فدرال دارد. | 1 | | سرامیک‌های زیست خنثی پس از قرارگیری در بدن میزبان خواص فیزیکی و مکانیکی خود را حفظ می‌کند. | خواص فیزیکی سرامیک‌ها قابل اندازه گیری است. | 1 |
• 損失函數：SoftmaxLoss

pquad_pair

• 數據集：pquad_pair
• 大小：79,972個訓練樣本
• 列：positive和anchor
• 基於前1000個樣本的近似統計： | | positive | anchor | | ---- | ---- | ---- | | 類型 | 字符串 | 字符串 | | 詳情 |
  • 最小：19個詞元
  • 平均：183.65個詞元
  • 最大：366個詞元
  |
  • 最小：5個詞元
  • 平均：13.95個詞元
  • 最大：36個詞元
  |
• 樣本： | positive | anchor | | ---- | ---- | | （此處原文positive內容過長，未完整展示） | |