Mbart Large 50 En Cbk Finetuned

🚀 英語 - 三寶顏查瓦卡諾語翻譯模型

本項目基於mbart-large-50-many-to-many-mmt模型，在自有語料庫中的英語到三寶顏查瓦卡諾語句子上進行微調，構建了一個翻譯模型。查瓦卡諾語是一種西班牙語克里奧爾語，三寶顏查瓦卡諾語是菲律賓使用最廣泛的查瓦卡諾語變體。本翻譯模型旨在通過遷移學習，利用查瓦卡諾語與西班牙語、他加祿語和其他羅曼語族語言的關聯性，創建一個英語 - 三寶顏查瓦卡諾語翻譯模型。

✨ 主要特性

• 多語言基礎：基於facebook/mbart-large-50-many-to-many-mmt多語言模型進行微調。
• 特定語料優化：針對英語到三寶顏查瓦卡諾語的句子進行訓練，適配特定語言對。
• 評估指標良好：在驗證集和測試集上均有不錯的BLEU分數。

📦 安裝指南

文檔未提供安裝步驟，故跳過此章節。

💻 使用示例

文檔未提供代碼示例，故跳過此章節。

📚 詳細文檔

模型信息

訓練數據

訓練集包含5203個句子，驗證集包含650個句子，測試集包含651個句子。每個句子由2 - 20個單詞組成。

訓練參數

batch_size = 16
num_train_epochs = 4
learning_rate=2e-4
gradient_accumulation_steps=4
weight_decay=0.01
warmup_steps=500
adam_epsilon=1e-8
max_grad_norm=1.0
fp16=True

額外信息

• 源語言：英語
• 目標語言：三寶顏查瓦卡諾語
• BLEU分數：37.74
• 簡潔懲罰因子：0.976
• 參考長度：5323
• 預測長度：5198

🔧 技術細節

本模型基於mbart-large-50-many-to-many-mmt模型，通過遷移學習的方式，利用查瓦卡諾語與西班牙語、他加祿語和其他羅曼語族語言的關聯性，在英語到三寶顏查瓦卡諾語的句子上進行微調。訓練過程中使用了特定的訓練參數，以優化模型在該語言對上的性能。在驗證集和測試集上，模型取得了較好的BLEU分數，驗證了模型的有效性。

📄 許可證

本項目使用apache - 2.0許可證。