Stsb M Mt Es Distilbert Base Uncased

🚀 スペイン語の意味的テキスト類似度のために学習されたdistilbert-base-uncased

このモデルは、stsb_multi_mt のスペイン語データセットを使用してファインチューニングされたテストモデルです。意味的テキスト類似度（STS）モデルの理解とベンチマークを行うために作成されました。

🚀 クイックスタート

このモデルは、他のSTS学習済みモデルと同じように文埋め込みを抽出するために使用できます。Sentence Transformersのドキュメントを参照してください。

✨ 主な機能

• スペイン語の意味的テキスト類似度タスクに対応。
• distilbert-base-uncased をベースにしたモデル。

📦 インストール

このREADMEには具体的なインストール手順が記載されていないため、このセクションは省略します。

💻 使用例

このREADMEには具体的なコード例が記載されていないため、このセクションは省略します。

📚 ドキュメント

モデルと学習データの説明

このモデルは、distilbert-base-uncased をベースに、Sentence TransformersのSTS用の学習スクリプトを修正したものを使用して、意味的テキスト類似度タスクで学習されました（修正スクリプトはリポジトリに含まれています）。学習には、stsb_multi_mt のスペイン語データセットが使用されており、これはSTSBenchmarkデータセットをdeepl.comを使って自動翻訳したものです。詳細はデータセットのリポジトリを参照してください。

想定される用途と制限

このモデルは、スペイン語データを使用したSTSのファインチューニングの概念実証として作成されたもので、この学習方法の仕組みを理解する以外の特定の用途はありません。

学習手順

含まれているスクリプトを使用して、ベースモデルをスペイン語で学習させることができます。また、最初の引数としてモデルの参照を渡すことで、別のモデルを学習させることもできます。学習データセットに含まれる他の言語でも学習を試すことができます。

評価結果

学習前の distilbert-base-uncased をスペイン語のテストデータセットで評価した結果は以下の通りです。

Cosine-Similarity :	Pearson: 0.2980	Spearman: 0.4008

学習スクリプトのデフォルト設定とスペイン語の学習データセットでファインチューニングしたバージョンの結果は以下の通りです。

Cosine-Similarity :	Pearson: 0.7451	Spearman: 0.7364

私たちの STS評価リポジトリ では、このモデルの性能をSentence TransformersやTensorflow Hubの他のモデルと、標準のSTSBenchmarkと2017年のスペイン語用STSBenchmarkタスク3を使用して比較しています。

リソース

• 学習データセット stsb_multi_mt
• Sentence Transformers Semantic Textual Similarity
• TensorflowとSentence-Transformersのモデルとの比較は sts_eval を参照
• スクリプトと評価を実行するための開発環境は こちら を参照

🔧 技術詳細

このREADMEには具体的な技術詳細（50文字以上の具体的な技術説明）が記載されていないため、このセクションは省略します。

📄 ライセンス

このREADMEにはライセンス情報が記載されていないため、このセクションは省略します。