Saudibert

🚀 SaudiBERT

SaudiBERTは、サウジアラビアの方言テキストに特化した最初の事前学習大規模言語モデルです。このモデルは、2つの大規模コーパスで事前学習されています。1つは1億4100万件以上のツイートを含むサウジ・ツイート・メガ・コーパス（STMC）で、もう1つは様々なサウジのオンラインフォーラムから収集された7000万文以上を含むサウジ・フォーラム・コーパスです。これらのデータセットは合計で26.3GBのテキストを含んでいます。コードファイルと結果はリポジトリで公開されています。

🚀 クイックスタート

SaudiBERTは、サウジアラビアの方言に特化した大規模言語モデルです。コーパスの詳細やコードについては、リポジトリを参照してください。

📄 ライセンス

このプロジェクトはCC BY-NC 4.0ライセンスの下で提供されています。

📚 ドキュメント

BibTex

もしあなたが科学的な出版物でSaudiBERTモデルを使用する場合、またはこのリポジトリのリソースが役立つと思った場合、以下のように私たちの論文を引用してください（引用詳細は更新される予定です）。

@article{qarah2024saudibert,
  title={SaudiBERT: A Large Language Model Pretrained on Saudi Dialect Corpora},
  author={Qarah, Faisal},
  journal={arXiv preprint arXiv:2405.06239},
  year={2024}
}