Rombos LLM V2.5 Qwen 72b

🚀 Rombos-LLM-V2.5-Qwen-72b

Rombos-LLM-V2.5-Qwen-72b是Qwen2.5-72B的持續微調版本。該模型通過特定方法融合指令模型和基礎模型，相比原始的指令模型和基礎模型，展現出更優的性能。

✨ 主要特性

• 持續微調：開發者注意到Qwen團隊未採用持續微調方法，於是親自使用 Ties 合併方法將指令模型與基礎模型進行合併。
• 性能提升：此版本模型在性能上優於原始的指令模型和基礎模型。
• 多格式支持：支持GGUF格式，EXL2格式也在計劃中。
• 量化支持：量化版本即將推出。
• 基準測試：基準測試結果即將公佈。

📚 詳細文檔

模型信息

模型評估結果

Open LLM Leaderboard評估結果 詳細結果可查看此處

模型索引

• 模型名稱：Replete-LLM-V2.5-Qwen-72b_Duplicated
• 評估任務：文本生成
• 評估數據集及結果：
  1. IFEval (0-Shot)：
     • 數據集類型：HuggingFaceH4/ifeval
     • 評估指標：嚴格準確率（inst_level_strict_acc and prompt_level_strict_acc）為71.55
     • 數據來源：Open LLM Leaderboard
  2. BBH (3-Shot)：
     • 數據集類型：BBH
     • 評估指標：歸一化準確率（acc_norm）為61.27
     • 數據來源：Open LLM Leaderboard
  3. MATH Lvl 5 (4-Shot)：
     • 數據集類型：hendrycks/competition_math
     • 評估指標：精確匹配率（exact_match）為47.58
     • 數據來源：Open LLM Leaderboard
  4. GPQA (0-shot)：
     • 數據集類型：Idavidrein/gpqa
     • 評估指標：歸一化準確率（acc_norm）為19.8
     • 數據來源：Open LLM Leaderboard
  5. MuSR (0-shot)：
     • 數據集類型：TAUR-Lab/MuSR
     • 評估指標：歸一化準確率（acc_norm）為17.32
     • 數據來源：Open LLM Leaderboard
  6. MMLU-PRO (5-shot)：
     • 數據集類型：TIGER-Lab/MMLU-Pro
     • 評估指標：準確率（acc）為54.83
     • 數據來源：Open LLM Leaderboard

📄 許可證

本模型使用的許可證為qwen，詳細信息請查看許可證鏈接。

🔗 相關鏈接

• GGUF格式模型：https://huggingface.co/bartowski/Replete-LLM-V2.5-Qwen-72b-GGUF