Indo Roberta Indonli

🚀 Indo-roberta-indonli

Indo-roberta-indonliは、Indo-robertaモデルに基づく自然言語推論分類器です。このモデルは、IndoNLIデータセットを使用して学習されました。使用されたモデルはIndo-robertaで、自然推論分類器モデルに転移学習されました。モデルは、GitHubリポジトリに提供されている検証、テストレイヤー、およびテストエキスパートデータセットを使用してテストされ、その結果は以下の通りです。

🚀 クイックスタート

Indo-roberta-indonliは、自然言語推論のタスクに使用できるモデルです。このモデルを使用することで、文章間の関係を判断することができます。

✨ 主な機能

• 自然言語推論分類器として機能します。
• IndoNLIデータセットを使用して学習されています。
• 転移学習により、自然推論分類器モデルに最適化されています。

📦 インストール

このモデルを使用するには、transformersライブラリが必要です。以下のコマンドでインストールできます。

pip install transformers

💻 使用例

基本的な使用法

from transformers import pipeline
pretrained_name = "StevenLimcorn/indonesian-roberta-indonli"
nlp = pipeline(
    "zero-shot-classification",
    model=pretrained_name,
    tokenizer=pretrained_name
)
nlp("Amir Sjarifoeddin Harahap lahir di Kota Medan, Sumatera Utara, 27 April 1907. Ia meninggal di Surakarta, Jawa Tengah, pada 19 Desember 1948 dalam usia 41 tahun. </s></s> Amir Sjarifoeddin Harahap masih hidup.")

📚 ドキュメント

結果

モデル

このモデルは、5エポック、バッチサイズ16、学習率2e-5、重み減衰0.01で学習され、以下のような様々な指標を達成しました。

🔧 技術詳細

このモデルは、事前学習されたRoBERTaモデルをベースに、IndoNLIデータセットを使用して転移学習されています。学習には、5エポック、バッチサイズ16、学習率2e-5、重み減衰0.01のパラメータが使用されました。

📄 ライセンス

このプロジェクトはMITライセンスの下で公開されています。

参考情報

使用したデータセットはIndoNLIです。

@inproceedings{indonli,
    title = "IndoNLI: A Natural Language Inference Dataset for Indonesian",
    author = "Mahendra, Rahmad and Aji, Alham Fikri and Louvan, Samuel and Rahman, Fahrurrozi and Vania, Clara",
    booktitle = "Proceedings of the 2021 Conference on Empirical Methods in Natural Language Processing",
    month = nov,
    year = "2021",
    publisher = "Association for Computational Linguistics",
}

⚠️ 重要提示

事前学習されたRoBERTaモデルとINDONLIデータセットに由来するバイアスが、このモデルの結果に影響を与える可能性があることに注意してください。

💡 使用建议

このモデルは自然言語推論のタスクに最適化されていますが、使用する際にはデータセットの特性やバイアスに注意してください。