Plt5 Large

🚀 plT5 Large

plT5モデルは、ポーランド語コーパスで学習されたT5ベースの言語モデルです。これらのモデルは、元のT5のノイズ除去ターゲットに最適化されています。

✨ 主な機能

• 翻訳
• 要約
• 質問応答
• 読解

📦 インストール

このモデルを使用するには、transformersライブラリが必要です。以下のコマンドでインストールできます。

pip install transformers

📚 ドキュメント

コーパス

plT5は、ポーランド語で利用可能な6つの異なるコーパスで学習されました。

トークナイザー

学習データセットは、語彙サイズ50kトークンのsentencepieceユニグラムモデルを使用してサブワードにトークナイズされました。

💻 使用例

基本的な使用法

from transformers import AutoTokenizer, AutoModel

tokenizer = AutoTokenizer.from_pretrained("allegro/plt5-large")
model = AutoModel.from_pretrained("allegro/plt5-large")

📄 ライセンス

CC BY 4.0

引用

このモデルを使用する場合は、以下の論文を引用してください。

@article{chrabrowa2022evaluation,
  title={Evaluation of Transfer Learning for Polish with a Text-to-Text Model},
  author={Chrabrowa, Aleksandra and Dragan, {\L}ukasz and Grzegorczyk, Karol and Kajtoch, Dariusz and Koszowski, Miko{\l}aj and Mroczkowski, Robert and Rybak, Piotr},
  journal={arXiv preprint arXiv:2205.08808},
  year={2022}
}

作成者

このモデルは、Machine Learning Research Team at Allegro と Linguistic Engineering Group at Institute of Computer Science, Polish Academy of Sciences によって学習されました。

お問い合わせはこちらまで: klejbenchmark@allegro.pl