Plt5 Base

🚀 plT5 Base

plT5 模型是基於 T5 的語言模型，在波蘭語語料庫上進行訓練。這些模型針對原始 T5 的去噪目標進行了優化。

🚀 快速開始

plT5 模型可通過以下示例代碼使用：

from transformers import AutoTokenizer, AutoModel

tokenizer = AutoTokenizer.from_pretrained("allegro/plt5-base")
model = AutoModel.from_pretrained("allegro/plt5-base")

✨ 主要特性

• 多任務支持：支持翻譯、摘要、問答、閱讀理解等多種自然語言處理任務。
• 基於波蘭語語料訓練：在多個波蘭語語料庫上進行訓練，更適合處理波蘭語相關任務。

📦 安裝指南

文檔未提及具體安裝命令，跳過該章節。

💻 使用示例

基礎用法

from transformers import AutoTokenizer, AutoModel

tokenizer = AutoTokenizer.from_pretrained("allegro/plt5-base")
model = AutoModel.from_pretrained("allegro/plt5-base")

📚 詳細文檔

語料庫

plT5 在六種不同的波蘭語語料庫上進行訓練：

分詞器

訓練數據集使用 sentencepiece 一元模型將其分詞為子詞，詞彙表大小為 50k 個詞元。

🔧 技術細節

訓練數據集使用 sentencepiece 一元模型將其分詞為子詞，詞彙表大小為 50k 個詞元。

📄 許可證

CC BY 4.0

📚 引用

如果您使用此模型，請引用以下論文：

@article{chrabrowa2022evaluation,
  title={Evaluation of Transfer Learning for Polish with a Text-to-Text Model},
  author={Chrabrowa, Aleksandra and Dragan, {\L}ukasz and Grzegorczyk, Karol and Kajtoch, Dariusz and Koszowski, Miko{\l}aj and Mroczkowski, Robert and Rybak, Piotr},
  journal={arXiv preprint arXiv:2205.08808},
  year={2022}
}

👥 作者

該模型由 Machine Learning Research Team at Allegro 和 Linguistic Engineering Group at Institute of Computer Science, Polish Academy of Sciences 訓練。

您可以通過以下郵箱聯繫我們：klejbenchmark@allegro.pl