Mythomax L2 13B GGUF FP16

🚀 🧠 MythoMax-L2-13B - GGUF FP16 (未量化版)

这是 Gryphe的MythoMax-L2-13B 的 GGUF转换的浮点16位版本，专为在高显存GPU上进行 全质量本地推理 而设计。

🎙️ 转换并分享者：Sandra Weidmann
🛠️ 测试环境：RTX 3090，text-generation-webui + llama.cpp
🔗 原始模型：Gryphe/MythoMax-L2-13B

🚀 快速开始

为什么选择这个模型？

此模型转换为 保留全精度（浮点16位），适用于以下场景：

• 🧠 微调指令任务
• 🎭 角色扮演和创意写作
• 💬 情感细腻的对话
• 🧪 全上下文输出（4096+ 标记）实验

📦 模型详情

💻 使用示例

基础用法

使用 llama.cpp 运行：

./main -m mythomax-l2-13b-f16.gguf -c 4096 -n 512 --color

或者通过 text-generation-webui 运行：

后端：llama.cpp
加载模型：mythomax-l2-13b-f16.gguf
设置上下文：4096+

💙 注意事项 此GGUF版本仅供非商业、实验和教育用途。 向原模型作者Gryphe表示充分感谢。 如果这个版本对你有帮助，不妨给它点个 ⭐ 并分享反馈。

Sandra ✨ py-sandy https://samedia.app/dev

📄 许可证

本项目采用 CC BY-NC 4.0 许可证。