Electra Tagalog Small Uncased Generator

🚀 ELECTRA Tagalog Small Uncased Generator

このモデルは、インターネットから収集した大規模なコーパスを使って事前学習されたタガログ語のELECTRAモデルです。これは、より大きな研究プロジェクトの一部です。我々は、フィリピンのNLPコミュニティでの利用を促進するために、このモデルをオープンソース化しています。

このモデルは、合成テキストをサンプリングし、識別器を事前学習するために使用される生成器モデルです。再学習とマスク埋めにのみこのモデルを使用してください。下流タスクの実際のモデルについては、識別器モデルを参照してください。

📚 ドキュメント

引用

すべてのモデル詳細と学習設定は、我々の論文に記載されています。もしあなたが私たちのモデルを使用したり、あなたのプロジェクトで役に立つと感じた場合は、私たちの研究を引用してください。

@inproceedings{cruz2021exploiting,
  title={Exploiting News Article Structure for Automatic Corpus Generation of Entailment Datasets},
  author={Cruz, Jan Christian Blaise and Resabal, Jose Kristian and Lin, James and Velasco, Dan John and Cheng, Charibeth},
  booktitle={Pacific Rim International Conference on Artificial Intelligence},
  pages={86--99},
  year={2021},
  organization={Springer}
}

データとその他のリソース

このモデルの学習に使用されたデータや、フィリピン語のその他のベンチマークデータセットは、私のウェブサイト https://blaisecruz.com で見つけることができます。

お問い合わせ

質問や懸念事項がある場合、または一般的にNLPや低リソース言語について話したい場合は、私の仕事用メール me@blaisecruz.com までご連絡ください。

📄 ライセンス

このモデルはGPL - 3.0ライセンスの下で提供されています。