T5 Small Finetuned V2 Hausa To Chinese

🚀 t5-small-finetuned-v2-hausa-to-chinese

このモデルは、ハウサ語から中国語への翻訳に特化したモデルです。google-t5/t5-small をベースにファインチューニングされ、評価セットで良好な結果を達成しています。

🚀 クイックスタート

このモデルは、ハウサ語から中国語への翻訳タスクに使用できます。以下は評価セットでの結果です。

• 損失: 1.1509
• Bleu: 30.0183
• 生成長: 6.4896

📚 ドキュメント

モデルの説明

このモデルは google-t5/t5-small のファインチューニングバージョンです。詳細な情報は今後の更新で追加予定です。

想定される用途と制限

詳細な情報は今後の更新で追加予定です。

学習と評価データ

詳細な情報は今後の更新で追加予定です。

学習手順

学習ハイパーパラメータ

学習中に使用されたハイパーパラメータは以下の通りです。

• 学習率: 0.0006
• 学習バッチサイズ: 32
• 評価バッチサイズ: 64
• シード: 42
• オプティマイザ: Adam (betas=(0.9,0.999), epsilon=1e-08)
• 学習率スケジューラタイプ: cosine
• 学習率スケジューラウォームアップステップ: 3000
• エポック数: 15
• 混合精度学習: Native AMP

学習結果

フレームワークバージョン

• Transformers 4.45.2
• Pytorch 2.4.1+cu121
• Datasets 3.0.1
• Tokenizers 0.20.1

📄 ライセンス

このモデルは Apache-2.0 ライセンスの下で提供されています。