T5 Small Spanish Nahuatl

🚀 t5-small-spanish-nahuatl

このモデルは、スペイン語とナワトル語の翻訳を行うために微調整されたT5 Transformerモデルです。大量のサンプルデータを用いて学習され、高精度な翻訳を実現します。

🚀 クイックスタート

このモデルを使用することで、スペイン語とナワトル語の間の翻訳を行うことができます。以下に使用方法の概要を説明します。

✨ 主な機能

• スペイン語からナワトル語への翻訳を高精度に行うことができます。
• 微調整により、特定のデータセットに適した翻訳性能を備えています。

📦 インストール

このモデルを使用するには、transformersライブラリが必要です。以下のコマンドでインストールできます。

pip install transformers

💻 使用例

基本的な使用法

from transformers import AutoModelForSeq2SeqLM
from transformers import AutoTokenizer

model = AutoModelForSeq2SeqLM.from_pretrained('milmor/t5-small-spanish-nahuatl')
tokenizer = AutoTokenizer.from_pretrained('milmor/t5-small-spanish-nahuatl')

model.eval()
sentence = 'muchas flores son blancas'
input_ids = tokenizer('translate Spanish to Nahuatl: ' + sentence, return_tensors='pt').input_ids
outputs = model.generate(input_ids)
# outputs = miak xochitl istak
outputs = tokenizer.batch_decode(outputs, skip_special_tokens=True)[0]

📚 ドキュメント

モデルの説明

このモデルは、T5 Transformer (t5-small) を29,007件のスペイン語とナワトル語の文章で微調整したものです。学習データは、ウェブから収集した12,890件のサンプルと、Axolotlデータセットからの16,117件のサンプルを使用しています。

データセットは、py-elotl の 'sep' 正規化を使用して正規化されています。

評価結果

このモデルは、400件の検証文章で評価されています。

• 検証損失: 1.36

⚠️ 重要提示

Axolotlコーパスには複数のミスアラインメントが含まれているため、実際の検証損失は若干良いです。これらのミスアラインメントはまた、学習にノイズをもたらします。

🔧 技術詳細

このモデルは、T5 Transformerアーキテクチャをベースに構築されています。T5は、テキスト生成タスクに特化したトランスフォーマーモデルで、多様な自然言語処理タスクで高い性能を発揮します。

このモデルは、特定のスペイン語とナワトル語のデータセットで微調整されており、これにより翻訳性能が向上しています。

📄 ライセンス

このモデルは、Apache-2.0ライセンスの下で提供されています。

参考文献

• Colin Raffel, Noam Shazeer, Adam Roberts, Katherine Lee, Sharan Narang, Michael Matena, Yanqi Zhou, Wei Li, and Peter J Liu. 2019. Exploring the limits of transfer learning with a unified Text-to-Text transformer.
• Ximena Gutierrez-Vasques, Gerardo Sierra, and Hernandez Isaac. 2016. Axolotl: a web accessible parallel corpus for Spanish-Nahuatl. In International Conference on Language Resources and Evaluation (LREC).

作成者: Emilio Morales