Sentence Camembert Base

🚀 預訓練句子嵌入模型（sentence - camembert - base）

預訓練句子嵌入模型是法語句子嵌入領域的先進技術。該模型基於預訓練的 [facebook/camembert - base](https://huggingface.co/camembert/camembert - base) 進行微調，結合 Siamese BERT - Networks with 'sentences - transformers'，在 stsb 數據集上訓練，為法語句子嵌入提供了高效的解決方案。

🚀 快速開始

模型信息

模型索引

• 名稱：sentence - camembert - base by Van Tuan DANG
• 結果：
  • 任務：
    • 名稱：Sentence - Embedding
    • 類型：Text Similarity
  • 數據集：
    • 名稱：Text Similarity fr
    • 類型：stsb_multi_mt
    • 參數：fr
  • 指標：
    • 名稱：Test Pearson correlation coefficient
    • 類型：Pearson_correlation_coefficient
    • 值：xx.xx

✨ 主要特性

預訓練句子嵌入模型是法語句子嵌入的先進技術，基於預訓練的 [facebook/camembert - base](https://huggingface.co/camembert/camembert - base) 進行微調，結合 Siamese BERT - Networks with 'sentences - transformers'，在 stsb 數據集上訓練，能夠有效處理法語句子的嵌入和相似度計算。

💻 使用示例

基礎用法

模型可以直接使用（無需語言模型），示例代碼如下：

from sentence_transformers import SentenceTransformer
model =  SentenceTransformer("dangvantuan/sentence - camembert - base")

sentences = ["Un avion est en train de décoller.",
          "Un homme joue d'une grande flûte.",
          "Un homme étale du fromage râpé sur une pizza.",
          "Une personne jette un chat au plafond.",
          "Une personne est en train de plier un morceau de papier.",
          ]

embeddings = model.encode(sentences)

評估用法

可以在 stsb 的法語測試數據上對模型進行評估，示例代碼如下：

from sentence_transformers import SentenceTransformer
from sentence_transformers.readers import InputExample
from sentence_transformers.evaluation import EmbeddingSimilarityEvaluator
from datasets import load_dataset
def convert_dataset(dataset):
    dataset_samples=[]
    for df in dataset:
        score = float(df['similarity_score'])/5.0  # Normalize score to range 0 ... 1
        inp_example = InputExample(texts=[df['sentence1'], 
                                    df['sentence2']], label=score)
        dataset_samples.append(inp_example)
    return dataset_samples

# Loading the dataset for evaluation
df_dev = load_dataset("stsb_multi_mt", name="fr", split="dev")
df_test = load_dataset("stsb_multi_mt", name="fr", split="test")

# Convert the dataset for evaluation

# For Dev set:
dev_samples = convert_dataset(df_dev)
val_evaluator = EmbeddingSimilarityEvaluator.from_input_examples(dev_samples, name='sts - dev')
val_evaluator(model, output_path="./")

# For Test set:
test_samples = convert_dataset(df_test)
test_evaluator = EmbeddingSimilarityEvaluator.from_input_examples(test_samples, name='sts - test')
test_evaluator(model, output_path="./")

測試結果

模型的性能通過 Pearson 和 Spearman 相關性進行衡量：

• 開發集 | 模型 | Pearson 相關係數 | Spearman 相關係數 | 參數數量 | | ---- | ---- | ---- | ---- | | [dangvantuan/sentence - camembert - base](https://huggingface.co/dangvantuan/sentence - camembert - base) | 86.73 | 86.54 | 110M | | [distiluse - base - multilingual - cased](https://huggingface.co/sentence - transformers/distiluse - base - multilingual - cased) | 79.22 | 79.16 | 135M |
• 測試集 | 模型 | Pearson 相關係數 | Spearman 相關係數 | | ---- | ---- | ---- | | [dangvantuan/sentence - camembert - base](https://huggingface.co/dangvantuan/sentence - camembert - base) | 82.36 | 81.64 | | [distiluse - base - multilingual - cased](https://huggingface.co/sentence - transformers/distiluse - base - multilingual - cased) | 78.62 | 77.48 |

📚 詳細文檔

引用信息

@article{reimers2019sentence,
   title={Sentence - BERT: Sentence Embeddings using Siamese BERT - Networks},
   author={Nils Reimers, Iryna Gurevych},
   journal={https://arxiv.org/abs/1908.10084},
   year={2019}
}

@article{martin2020camembert,
   title={CamemBERT: a Tasty French Language Mode},
   author={Martin, Louis and Muller, Benjamin and Suárez, Pedro Javier Ortiz and Dupont, Yoann and Romary, Laurent and de la Clergerie, Éric Villemonte and Seddah, Djamé and Sagot, Benoît},
   journal={Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics},
   year={2020}
}

📄 許可證

本項目採用 apache - 2.0 許可證。