Adabtranslate Darija

🚀 AdabTranslate-Darija

このモデルは、moussaKam/arabart を不明なデータセットでファインチューニングしたバージョンです。評価セットでは、以下の結果を達成しています。

• 損失: 1.0892
• Bleu: 46.4939
• 生成長: 9.6377

🚀 クイックスタート

必要なライブラリをインストールした後、以下のコードをコピーして貼り付けてください。

from transformers import AutoModelForSeq2SeqLM, AutoTokenizer

model_path = 'itsmeussa/AdabTranslate-Darija'

model = AutoModelForSeq2SeqLM.from_pretrained(model_path)

tokenizer = AutoTokenizer.from_pretrained('moussaKam/arabart')


seq = "مرحبا بيكم"
tok = tokenizer.encode(seq, return_tensors='pt')

res = model.generate(tok)
tokenizer.decode(res[0])

フレームワークのバージョン

• Transformers 4.40.0.dev0
• Pytorch 2.2.1+cu121
• Datasets 2.18.0
• Tokenizers 0.15.2

✨ 主な機能

Darija to MSA Translatorは、人間のアノテーターによって細心の注意を払ってアノテーションされ、GPT - 4技術を用いて拡張された26,000のテキストペアからなる多様なデータセットで厳選して学習された最先端の翻訳モデルです。Hugging Faceで利用可能なデータセットを活用し、高度な学習技術を採用することで、このモデルはDarija（モロッコ語アラビア語）と現代標準アラビア語（MSA）の間の翻訳において卓越した精度と流暢さを達成しています。Hugging Face Transformersライブラリを駆使しており、自然言語処理技術における大きな進歩を表しており、言語の壁を取り除き、言語の多様性を促進するための貴重なツールとなっています。

📚 ドキュメント

意図された用途と制限

Darija to MSA Translatorは、多言語プロジェクトに取り組む言語愛好家、研究者、開発者など幅広いユーザーを対象として設計されています。多様なデータセットでの堅牢な学習により、様々なコンテキストでの精度と有効性が保証されています。ただし、ユーザーはその制限に注意する必要があります。特に、高度に専門的またはドメイン固有の翻訳では、追加のファインチューニングが必要な場合があります。

学習と評価データ

Darija to MSA Translatorの学習データは、人間のアノテーションによって生成され、GPT - 4技術を用いて拡張された26,000のテキストペアで構成されています。これらのデータセットはHugging Faceから取得され、学習用の包括的で多様な例を保証しています。評価データは、モデルの実世界でのパフォーマンスと精度を検証するために慎重に選択され、実用的なアプリケーションにおける信頼性と有効性を保証しています。

学習手順

学習ハイパーパラメータ

学習中に以下のハイパーパラメータが使用されました。

• learning_rate: 5e - 05
• train_batch_size: 16
• eval_batch_size: 16
• seed: 42
• optimizer: Adam（betas=(0.9,0.999)、epsilon=1e - 08）
• lr_scheduler_type: linear
• num_epochs: 5.0

学習結果

📄 ライセンス

このモデルは、Apache - 2.0ライセンスの下で提供されています。

著者

• Oussama Mounajjim
• Imad Zaoug
• Mehdi Soufiane