Llama3 Chinese 8B Instruct Agent V1

🚀 魔搭Llama3 8b中文Agent智能体模型

このモデルはLlama3-8b-instructベースモデルを使用して訓練され、中国語の一般的なシナリオに適合し、ReACT形式のAgent呼び出しをサポートしています。

🚀 クイックスタート

🔍 モデル使用

推論

# 依存関係のインストール
pip install ms-swift -U

# 推論
swift infer --model_type llama3-8b-instruct --model_id_or_path swift/Llama3-Chinese-8B-Instruct-Agent-v1

# デプロイ
swift deploy --model_type llama3-8b-instruct --model_id_or_path swift/Llama3-Chinese-8B-Instruct-Agent-v1

このモデルはModelScopeAgentフレームワークと組み合わせて使用できます。詳細は以下を参照してください： https://github.com/modelscope/swift/blob/main/docs/source/LLM/Agent%E5%BE%AE%E8%B0%83%E6%9C%80%E4%BD%B3%E5%AE%9E%E8%B7%B5.md#%E6%90%AD%E9%85%8Dmodelscope-agent%E4%BD%BF%E7%94%A8

📊 モデル訓練情報

中国語とAgentシナリオに適合させるため、コーパスに一定の混合比率を適用しました。Llama3の訓練に使用されるコーパスは以下の通りです：

• COIG-CQIA：https://modelscope.cn/datasets/AI-ModelScope/COIG-CQIA/summary このデータセットには中国の伝統知識、豆瓣、弱智吧、知乎などの中国語のインターネット情報が含まれています。
• 魔搭通用Agent訓練データセット: https://modelscope.cn/datasets/AI-ModelScope/ms-agent-for-agentfabric/summary
• alpaca-en: https://modelscope.cn/datasets/AI-ModelScope/alpaca-gpt4-data-en/summary
• ms-bench魔搭通用中国語質問応答データセット: https://modelscope.cn/datasets/iic/ms_bench/summary

💻 モデル訓練コマンド

NPROC_PER_NODE=8 \
swift sft \
  --model_type llama3-8b-instruct \
  --dataset ms-agent-for-agentfabric-default alpaca-en ms-bench ms-agent-for-agentfabric-addition coig-cqia-ruozhiba coig-cqia-zhihu coig-cqia-exam coig-cqia-chinese-traditional coig-cqia-logi-qa coig-cqia-segmentfault coig-cqia-wiki \
  --batch_size 2 \
  --max_length 2048 \
  --use_loss_scale true \
  --gradient_accumulation_steps 16 \
  --learning_rate 5e-5 \
  --use_flash_attn true \
  --eval_steps 500 \
  --save_steps 500 \
  --train_dataset_sample -1 \
  --dataset_test_ratio 0.1 \
  --val_dataset_sample 10000 \
  --num_train_epochs 2 \
  --check_dataset_strategy none \
  --gradient_checkpointing true \
  --weight_decay 0.01 \
  --warmup_ratio 0.03 \
  --save_total_limit 2 \
  --logging_steps 10 \
  --sft_type lora \
  --lora_target_modules ALL \
  --lora_rank 8 \
  --lora_alpha 32

📈 モデル評価情報

GSM8Kの英語の数学能力は約8ポイント低下しました。アブレーション実験により、alpaca-enコーパスを削除するとGSM8Kが少なくとも10ポイント以上低下することがわかりました。