Jamet 8B L3 MK.V Blackroot

🚀 JAMETSSS模型介紹

JAMETSSS是一個在自然語言處理領域具有獨特特性的模型，它基於特定的基礎模型進行了一系列的融合與優化，在角色扮演和故事講述方面有著出色的表現。

🚀 快速開始

模型資源

• GGUF 由 Backyard AI 提供。
• ANOTHER GGUF 由 mradermacher 提供。

模型圖片

✨ 主要特性

模型基礎與特點

本模型與其他模型採用不同的基礎模型和方法（未進行模型庫存合併，因為效果不佳……至少對我來說，在溫度為 0 時會出現重複的句子或單詞，Halu Blackroot 模型也有同樣的問題）。該模型可能與 Anjir 模型更為相似。

模型演變歷程

此模型經歷了漫長的研發過程，我有大約 9 種不同的變體。我在 Q4_K_M 上對所有變體進行了測試，最終決定發佈第 7 個變體。

模型構建過程

• 基礎模型：本模型基於 此模型，而該模型又基於 UltimateAnjir 模型，它們具有相同的創造性、歡快和積極的傾向。隨後，我將其與 Llama 3 Instruct 進行了合併。
• DPO 處理：為了減少歡快感、表情符號和積極性（這是基於 Jamet MK.II 反饋 中關於積極性的反饋），我使用約 1000 個來自 Alpaca 的提示訓練了一個 QLora 以生成數據集。通過正則表達式選擇帶有表情符號的內容，移除表情符號後將無表情符號的內容移至選中部分，有表情符號的響應移至拒絕部分（使用 unsloth）。
• 應用 Lora：接著，我應用了 來自 Blackroot 的 Abomination Lora。
• 應用適配器：然後，我應用了 Anjir 適配器（64 秩版本，降低了 Alpha 值）以改善格式，同時保留之前 Lora 的影響（這是基於 Anjir 反饋，表明 Anjir 的格式比 Halu Blackroot 更好）。
• 與 Anjrit 模型合併：最後，我將該模型與 Anjrit 模型進行了合併（我不會發布 Anjrit 模型，因為它在處理較長上下文時存在困難。我只對其無拒絕的講故事能力感興趣，但你可以在我的 Anjir 模型 頁面上找到該模型的簡要概述）。

📚 詳細文檔

注意事項

• 我不對任何事情負責。
• 這是一個角色扮演和講故事的模型。
• 你可以在討論區寫下反饋，以便我改進模型。
• 與我之前的所有模型一樣，較高的溫度會導致輸出不連貫，因此建議使用 0.85 - 1.05 左右的溫度（自 Halu Blackroot 以來我一直在嘗試解決這個問題，但效果不佳，我認為將基礎模型與 Llama 3 Instruct 合併有很大幫助）。

特殊情況說明

有時在 4Bit 情況下，模型仍然會輸出帶有表情符號的響應。

📄 許可證

本模型使用 llama3 許可證。

信息表格

常用提示信息

⚠️ 重要提示

本模型有時在 4Bit 情況下會輸出帶有表情符號的響應。

💡 使用建議

與之前模型類似，較高溫度會使輸出不連貫，建議使用 0.85 - 1.05 左右的溫度。你可以在討論區提供反饋，幫助改進模型。