Roberta Tagalog Large

🚀 RoBERTa Tagalog Large

Tagalog版のRoBERTaは、以前のTagalog事前学習Transformersを改善するために学習されました。Filipino用の新しく、より大規模で、トピックが多様な事前学習コーパスであるTLUnifiedを使用して学習されています。このモデルは、より大規模な研究プロジェクトの一部です。FilipinoのNLPコミュニティでの利用を促進するために、このモデルをオープンソース化しています。

このモデルは大文字小文字を区別するモデルです。大文字小文字を区別しないRoBERTaモデルはリリースしていません。

📚 ドキュメント

引用

すべてのモデルの詳細と学習設定は、当社の論文に記載されています。当社のモデルを使用した場合、またはあなたのプロジェクトで役立つと感じた場合は、以下の論文を引用してください。

@article{cruz2021improving,
  title={Improving Large-scale Language Models and Resources for Filipino},
  author={Jan Christian Blaise Cruz and Charibeth Cheng},
  journal={arXiv preprint arXiv:2111.06053},
  year={2021}
}

データとその他のリソース

このモデルの学習に使用されたデータや、Filipinoのその他のベンチマークデータセットは、私のウェブサイトhttps://blaisecruz.com で見つけることができます。

お問い合わせ

質問や懸念事項がある場合、またはNLPや低リソース言語について話したい場合は、私の仕事用メールアドレスme@blaisecruz.com までご連絡ください。

📄 ライセンス

このモデルはCC BY-SA 4.0ライセンスの下で公開されています。