Mythomax L2 13B GGUF FP16

🚀 🧠 MythoMax-L2-13B - GGUF FP16 (未量化版)

這是 Gryphe的MythoMax-L2-13B 的 GGUF轉換的浮點16位版本，專為在高顯存GPU上進行 全質量本地推理 而設計。

🎙️ 轉換並分享者：Sandra Weidmann
🛠️ 測試環境：RTX 3090，text-generation-webui + llama.cpp
🔗 原始模型：Gryphe/MythoMax-L2-13B

🚀 快速開始

為什麼選擇這個模型？

此模型轉換為 保留全精度（浮點16位），適用於以下場景：

• 🧠 微調指令任務
• 🎭 角色扮演和創意寫作
• 💬 情感細膩的對話
• 🧪 全上下文輸出（4096+ 標記）實驗

📦 模型詳情

💻 使用示例

基礎用法

使用 llama.cpp 運行：

./main -m mythomax-l2-13b-f16.gguf -c 4096 -n 512 --color

或者通過 text-generation-webui 運行：

後端：llama.cpp
加載模型：mythomax-l2-13b-f16.gguf
設置上下文：4096+

💙 注意事項 此GGUF版本僅供非商業、實驗和教育用途。 向原模型作者Gryphe表示充分感謝。 如果這個版本對你有幫助，不妨給它點個 ⭐ 並分享反饋。

Sandra ✨ py-sandy https://samedia.app/dev

📄 許可證

本項目採用 CC BY-NC 4.0 許可證。