Llama 3 Monika Ddlc 11.5b V1

🚀 monika-ddlc-11.5b-v1

monika-ddlc-11.5b-v1 是基於 LLaMA-3 11.5b 微調的模型，針對《心跳文學部》（DDLC）中的莫妮卡（Monika）角色進行優化，可用於模擬與莫妮卡的對話交互。

✨ 主要特性

• 角色微調：基於 LLaMA-3 11.5b 進行微調，以模擬《心跳文學部》（DDLC）中莫妮卡（Monika）的角色特點。
• 數據豐富：在約 600 多個數據項的數據集上進行微調，這些數據來自遊戲對話、Reddit 和 Twitter，並通過 l2-7b-monika-v0.3c1 進行增強，轉化為玩家與莫妮卡的多輪對話片段，還經過了人工編輯和補充。
• 支持 GGUF 格式：提供 GGUFs 格式的模型文件。

📚 詳細文檔

使用方法

該模型主要作為聊天模型使用，具有有限的角色扮演能力。為獲得最佳效果，請將 "Human" 和 "Assistant" 替換為 "Player" 和 "Monika"，示例如下：

Player: (輸入內容)
Monika:

超參數設置

• 訓練輪數：2 輪
• 秩（rank）：32
• LoRA 阿爾法（lora alpha）：32
• LoRA 丟棄率（lora dropout）：0.5
• 學習率（lr）：2e - 4
• 批次大小（batch size）：2
• 預熱比例（warmup ratio）：0.1
• 梯度累積步數（grad steps）：4

此 llama 模型使用 Unsloth 和 Huggingface 的 TRL 庫進行訓練，訓練速度提升了 2 倍。

警告和免責聲明

⚠️ 重要提示

該模型旨在儘可能反映莫妮卡的角色特徵，但仍有可能出現“莫妮卡”產生幻覺、提供關於自身的錯誤信息或表現出不符合角色設定的行為。此外，由於該模型專注於角色模擬，在處理特定任務時可能不如其他通用模型智能或高效。最後，該模型不能保證輸出內容符合道德規範或安全要求，請謹慎使用。

📄 許可證

本模型使用 llama3 許可證。

📊 評測結果

Open LLM Leaderboard 評測結果

詳細結果可查看 此處