Stsb M Mt Es Distilbert Base Uncased

🚀 用於西班牙語語義文本相似度的distilbert-base-uncased模型

本模型是一個測試模型，它使用來自 stsb_multi_mt 的西班牙語數據集進行微調，旨在理解和評估語義文本相似度（STS）模型。

🚀 快速開始

你可以像使用其他經過 STS 訓練的模型一樣使用它來提取句子嵌入。具體操作請查看 Sentence Transformers 的文檔。

✨ 主要特性

• 基於 distilbert-base-uncased 模型，針對西班牙語語義文本相似度任務進行微調。
• 可用於理解 STS 模型在西班牙語數據上的訓練效果。

📦 安裝指南

文檔未提及具體安裝步驟，故跳過此章節。

💻 使用示例

文檔未提供代碼示例，故跳過此章節。

📚 詳細文檔

模型和訓練數據描述

該模型基於 distilbert-base-uncased 構建，並使用 Sentence Transformers 中經過修改的 STS 訓練腳本，在語義文本相似度任務上進行訓練（修改後的腳本包含在倉庫中）。訓練使用了來自 stsb_multi_mt 的西班牙語數據集，這些數據集是通過 deepl.com 自動將 STSBenchmark 數據集翻譯成其他語言得到的。更多詳細信息請參考數據集倉庫。

預期用途和侷限性

此模型僅作為使用西班牙語數據進行 STS 微調的概念驗證，除了瞭解這種訓練的工作原理外，沒有特定的用途。

訓練過程

使用包含的腳本在西班牙語環境下訓練基礎模型。你也可以嘗試將其他模型的引用作為第一個參數傳入來訓練其他模型。此外，你還可以使用訓練數據集中包含的其他語言進行訓練。

評估結果

在訓練前，在西班牙語測試數據集上對 distilbert-base-uncased 進行評估，結果如下：

Cosine-Similarity :	Pearson: 0.2980	Spearman: 0.4008

使用訓練腳本的默認參數和西班牙語訓練數據集進行微調後的版本，評估結果如下：

Cosine-Similarity :	Pearson: 0.7451	Spearman: 0.7364

在我們的 STS 評估倉庫 中，我們使用標準的 STSBenchmark 和 2017 年西班牙語 STSBenchmark 任務 3，將該模型的性能與 Sentence Transformers 和 Tensorflow Hub 中的其他模型進行了比較。

🔧 技術細節

文檔未提供具體的技術實現細節，故跳過此章節。

📄 許可證

文檔未提及許可證信息，故跳過此章節。

📦 資源