Core 24B V.1

🚀 預訓練語言模型融合項目

本項目是對預訓練語言模型進行融合的成果。近期新發布的Mistral模型表現略優於其前代產品，因此我希望對Apparatus模型進行更新。此外，我測試了新的Pantheon模型，它在模仿人類表達和行為方式方面表現出色，於是便萌生了進行新融合的想法。

🚀 快速開始

本融合模型基於以下基礎模型：

• Gryphe/Pantheon - RP - 1.8 - 24b - Small - 3.1
• mrfakename/mistral - small - 3.1 - 24b - instruct - 2503 - hf
• OddTheGreat/Apparatus_24B

使用的庫為transformers。

✨ 主要特性

• 模型融合：將多個預訓練語言模型進行融合，旨在將Apparatus模型遷移到新的Mistral 3.1上。
• 能力提升：在保持模型穩定性和俄語表現的同時，增強其對話能力。
• 表現良好：經過250次回答測試，該模型在敘述和對話方面表現出色，智能程度高，能較好地遵循指令，具有一定的創造性和穩定性。
• 多語言支持：支持英語和俄語。

🔧 技術細節

本融合的目標是將Apparatus遷移到新的Mistral 3.1，並在保持其穩定性和俄語性能的同時增強其對話能力。從測試結果來看，似乎達成了這一目標。模型具有較好的智能水平，能遵循指令，有一定的創造性且較為穩定。不過，Qvink Memory似乎會對模型產生影響，開啟後回覆會明顯變短。在使用時，建議在ST中使用預構建的V7格式，不過chatML也能正常工作，參數設置為T1.01 XTC 0.1 0.1。

📦 安裝指南

文檔未提及具體安裝步驟，暫無法提供。

💻 使用示例

文檔未提供代碼示例，暫無法提供。

📚 詳細文檔

目前該模型不包含視覺功能，待我研究出如何將視覺功能融合進去後，會對模型進行更新。我無法判斷該模型是否比Apparatus更好，因此非常歡迎大家提供反饋。

📄 許可證

文檔未提及許可證信息，暫無法提供。

信息表格

常用提示信息

⚠️ 重要提示

Qvink Memory似乎會對模型產生影響，開啟後回覆會明顯變短。

💡 使用建議

建議在ST中使用預構建的V7格式，不過chatML也能正常工作，參數設置為T1.01 XTC 0.1 0.1。