Plt5 Base

🚀 plT5 Base

plT5モデルは、ポーランド語コーパスで学習されたT5ベースの言語モデルです。これらのモデルは、元のT5のノイズ除去ターゲットに最適化されています。

🚀 クイックスタート

plT5モデルは、ポーランド語のコーパスを使用して訓練されたT5ベースの言語モデルです。以下に、このモデルの基本的な使い方を紹介します。

✨ 主な機能

• 翻訳
• 要約
• 質問応答
• 読解

📦 インストール

このモデルを使用するには、transformersライブラリが必要です。以下のコマンドでインストールできます。

pip install transformers

💻 使用例

基本的な使用法

from transformers import AutoTokenizer, AutoModel

tokenizer = AutoTokenizer.from_pretrained("allegro/plt5-base")
model = AutoModel.from_pretrained("allegro/plt5-base")

📚 ドキュメント

コーパス

plT5は、ポーランド語で利用可能な6つの異なるコーパスで学習されました。

トークナイザー

学習データセットは、語彙サイズ50kトークンのSentencePieceユニグラムモデルを使用してサブワードにトークナイズされました。

🔧 技術詳細

学習データセットは、語彙サイズ50kトークンのSentencePieceユニグラムモデルを使用してサブワードにトークナイズされました。

📄 ライセンス

CC BY 4.0

引用

このモデルを使用する場合は、次の論文を引用してください。

@article{chrabrowa2022evaluation,
  title={Evaluation of Transfer Learning for Polish with a Text-to-Text Model},
  author={Chrabrowa, Aleksandra and Dragan, {\L}ukasz and Grzegorczyk, Karol and Kajtoch, Dariusz and Koszowski, Miko{\l}aj and Mroczkowski, Robert and Rybak, Piotr},
  journal={arXiv preprint arXiv:2205.08808},
  year={2022}
}

作者

このモデルは、Machine Learning Research Team at Allegro と Linguistic Engineering Group at Institute of Computer Science, Polish Academy of Sciences によって学習されました。

お問い合わせは klejbenchmark@allegro.pl までお願いします。