Opus Mt Ko En Korean Parallel Corpora

🚀 韩语并行语料库的opus-mt-ko-en模型

本模型是一个基于自然语言处理的翻译模型，它以预训练模型为基础进行微调，可实现韩语到英语的翻译，为语言交流提供便利。

🚀 快速开始

本模型是 Helsinki-NLP/opus-mt-ko-en 的微调版本。若想了解其创建方式的更多信息，请查看以下链接：https://github.com/DunnBC22/NLP_Projects/blob/main/Machine%20Translation/Korean%20to%20English%20(Korean%20Parallel%20Corpora)/Korean_Parallel_Corpora_OPUS_Translation_Project.ipynb

⚠️ 重要提示

如果生成的文本质量不佳，我在此提前表示歉意。虽然我的本意是好的，但有时技术可能会产生一些奇怪的输出。

✨ 主要特性

• 应用目的：本模型旨在展示使用技术解决复杂问题的能力。
• 训练和评估数据：数据集来源为 https://huggingface.co/datasets/Moo/korean-parallel-corpora 。
• 词数统计可视化：
  • 韩语输入词数直方图：
  • 英语输入词数直方图：

🔧 技术细节

训练超参数

训练过程中使用了以下超参数：

• 学习率：2e - 05
• 训练批次大小：8
• 评估批次大小：8
• 随机种子：42
• 梯度累积步数：4
• 总训练批次大小：32
• 优化器：Adam（β1 = 0.9，β2 = 0.999，ε = 1e - 08）
• 学习率调度器类型：线性
• 训练轮数：6

训练结果

• 评估损失：2.6620
• 评估BLEU分数：14.3395
• 评估ROUGE分数：
  • ROUGE - 1：0.4391
  • ROUGE - 2：0.2022
  • ROUGE - L：0.3671
  • ROUGE - Lsum：0.3671

• 训练结果值已四舍五入到小数点后四位。

框架版本

• Transformers 4.31.0
• Pytorch 2.0.1 + cu118
• Datasets 2.14.4
• Tokenizers 0.13.3

📄 许可证

本模型使用的许可证为 Apache - 2.0。