Rubert Base Cased Conversational Paraphrase V1

🚀 文章の意味的類似度判定モデル

このモデルは、3つのパラフレーズ検出データセットを混合して学習させたruBERT-conversationalモデルです。このモデルは、ロシア語の文章の意味的類似度を評価するために使用できます。

✨ 主な機能

• ロシア語の文章の意味的類似度を評価する。

📦 インストール

ドキュメントに具体的なインストール手順が記載されていないため、このセクションを省略します。

💻 使用例

ドキュメントに具体的なコード例が記載されていないため、このセクションを省略します。

📚 ドキュメント

学習データセット

• ru_paraphraser（クラス -1 と 0 を統合）
• RuPAWS
• Dementieva et al, 2022によるロシア語の文章の解毒における内容保存のクラウドソーシング評価を含むデータセット

学習パラメータ

• オプティマイザ: Adam
• lr=1e-5
• batch_size=32
• epochs=3

開発データのROC AUC

source         score
detox          0.821665
paraphraser    0.848287
rupaws_qqp     0.761481
rupaws_wiki    0.844093

関連ドキュメント

このタスクでより良い性能を発揮するSkolkovoInstitute/ruRoberta-large-paraphrase-v1のドキュメントも参照してください。

🔧 技術詳細

学習ノートブック: task_oriented_TST/similarity/cross_encoders/russian/train_russian_paraphrase_detector__fixed.ipynb（プライベートリポジトリ内）

📄 ライセンス

ドキュメントにライセンス情報が記載されていないため、このセクションを省略します。