Roberta Tagalog Base

🚀 RoBERTa Tagalog Base

Tagalog RoBERTaは、以前のTagalog事前学習Transformersを改善して学習されました。Filipino用の新しく、より大規模で、トピックが多様な事前学習コーパスであるTLUnifiedを使用して学習されています。このモデルは、より大規模な研究プロジェクトの一部です。FilipinoのNLPコミュニティでの利用を促進するために、このモデルをオープンソースで公開しています。

このモデルはケース区別を行うモデルです。ケース区別を行わないRoBERTaモデルは公開していません。

✨ 主な機能

• Tagalog RoBERTaは、以前のTagalog事前学習Transformersを改善して学習されています。
• 新しく、より大規模で、トピックが多様な事前学習コーパスであるTLUnifiedを使用して学習されています。
• このモデルは、より大規模な研究プロジェクトの一部です。
• FilipinoのNLPコミュニティでの利用を促進するために、このモデルをオープンソースで公開しています。

📚 ドキュメント

引用

すべてのモデルの詳細と学習設定は、当社の論文に記載されています。当社のモデルを使用するか、あなたのプロジェクトで役に立つと感じた場合は、当社の研究を引用してください。

@article{cruz2021improving,
  title={Improving Large-scale Language Models and Resources for Filipino},
  author={Jan Christian Blaise Cruz and Charibeth Cheng},
  journal={arXiv preprint arXiv:2111.06053},
  year={2021}
}

データとその他のリソース

このモデルの学習に使用されたデータや、Filipinoの他のベンチマークデータセットは、私のウェブサイトhttps://blaisecruz.com で見つけることができます。

お問い合わせ

質問や懸念事項がある場合、または一般的なNLPや低リソース言語について話したい場合は、私の仕事用のメールアドレスme@blaisecruz.com までご連絡ください。

📄 ライセンス

このモデルは、CC BY-SA 4.0ライセンスの下で公開されています。