Albert Fa Base V2 Clf Digimag

🚀 ペルシア語ALBERTモデル

ペルシア語ALBERTモデルは、ペルシア語の自己教師付き言語表現学習に使用される軽量版のBERTモデルです。「小さなBERT」と呼ばれることもあります。

ALBERT - ペルシア語は、ALBERTをペルシア語に初めて適用した試みです。このモデルはGoogleのALBERT BASEバージョン2.0をベースに訓練されており、訓練データは科学、小説、ニュースなど様々な主題の様々な文体の文書を含み、390万件以上の文書、7300万文、13億語以上の単語が含まれています。これはParsBERTの訓練方法と似ています。

ALBERT - ペルシア語リポジトリをフォローして、過去と現在のモデルに関する最新情報を入手してください。

🚀 クイックスタート

ペルシア語テキスト分類 [デジタル雑誌、ペルシア語ニュース]

このタスクは、デジタル雑誌とペルシア語ニュースの2つの既存データセットのテキストに対して教師付きのラベル付けを行うことを目的としています。

デジタル雑誌データセット

Digikalaオンライン雑誌から収集された計8515編の記事です。このデータセットは7つの異なるカテゴリを含んでいます。

1. ビデオゲーム
2. ショッピングガイド
3. 健康と美容
4. 科学技術
5. 総合
6. 芸術と映画
7. 書籍と文学

ダウンロード先 このデータセットは[こちら](https://drive.google.com/uc?id=1YgrCYY - Z0h2z0 - PfWVfOGt1Tv0JDI - qz)からダウンロードできます。

結果

以下の表は、ParsBERTと他のモデルおよびアーキテクチャと比較した場合のF1スコアをまとめたものです。

📚 ドキュメント

BibTeX引用と引用情報

出版物で引用する場合は、以下の内容を使用してください。

@misc{ALBERTPersian,
  author = {Mehrdad Farahani},
  title = {ALBERT-Persian: A Lite BERT for Self-supervised Learning of Language Representations for the Persian Language},
  year = {2020},
  publisher = {GitHub},
  journal = {GitHub repository},
  howpublished = {\url{https://github.com/m3hrdadfi/albert-persian}},
}

@article{ParsBERT,
    title={ParsBERT: Transformer-based Model for Persian Language Understanding},
    author={Mehrdad Farahani, Mohammad Gharachorloo, Marzieh Farahani, Mohammad Manthouri},
    journal={ArXiv},
    year={2020},
    volume={abs/2005.12515}
}

質問がありますか？

ALBERT - ペルシア語リポジトリでGitHubのイシューを投稿してください。

📄 ライセンス

このプロジェクトはApache 2.0ライセンスの下で提供されています。