Eeve Dpo V3

🚀 ENERGY-DRINK-LOVE/eeve_dpo-v3

このモデルは、特定の訓練方法を用いて生成されたもので、韓国語の命令に対応したモデルです。特定のベースモデルを元に、DPOという訓練方法を用いて訓練されています。

🚀 クイックスタート

このモデルを使用するには、まずベースモデルをダウンロードする必要があります。その後、DPOを用いた訓練方法でモデルを微調整することができます。

✨ 主な機能

• 韓国語の命令に対応したモデルです。
• DPOという訓練方法を用いて訓練されています。
• 特定のベンチマークで良好な性能を示しています。

📦 インストール

インストールに関する具体的なコマンドは提供されていません。

💻 使用例

使用例に関する具体的なコードは提供されていません。

📚 ドキュメント

チームメンバー

• Jingyeom Kim
• Youjin Chung

モデル情報

ベースモデル

• yanolja/EEVE-Korean-Instruct-10.8B-v1.0

ハードウェアとソフトウェア

• ハードウェア: モデルの訓練にはA100 * 8を使用しました。
• ソフトウェア: DeepspeedライブラリとHuggingface TRL Trainerを使用しました。

データセット

• DPO_dataset
  • 自社で制作したdpoデータセット(AI-hubデータセットを活用)
  • OpenOrca DPOなどの英語データセットの翻訳(ENERGY-DRINK-LOVE/translate_share_gpt_dedup_llama_SFT_1024、自社モデルを活用)

訓練方法

• DPO

ベンチマーク

Ko LM Eval Harness

Ko-LLM-Leaderboard

• (240307時点で7位) | 平均 | Ko-ARC | Ko-HellaSwag | Ko-MMLU | Ko-TruthfulQA | Ko-CommonGen V2 | | ------: | -----: | -----------: | ------: | ------------: | --------------: | | 57.97 | 57.51 | 67.01 | 56.3 | 54.86 | 54.19 |

📄 ライセンス

このモデルはApache-2.0ライセンスの下で提供されています。