%20--%3e%3cdefs%3e%3cstyle%3e%20.st0%20{%20fill:%20%23061b40;%20}%20.st1%20{%20fill:%20%23306af1;%20}%20.st2%20{%20fill:%20%235ce5cf;%20}%20%3c/style%3e%3c/defs%3e%3cg%3e%3cpath%20class='st0'%20d='M55,10.5h9v3h-9v9h12V7.5h-12v3ZM64,19.5h-6v-3h6v3Z'/%3e%3cpolygon%20class='st0'%20points='69%2016.5%2078%2016.5%2078%2019.5%2069%2019.5%2069%2022.5%2081%2022.5%2081%2013.5%2072%2013.5%2072%2010.5%2081%2010.5%2081%207.5%2069%207.5%2069%2016.5'/%3e%3cpolygon%20class='st0'%20points='95%2010.5%2095%207.5%2083%207.5%2083%2022.5%2095%2022.5%2095%2019.5%2086%2019.5%2086%2016.5%2095%2016.5%2095%2013.5%2086%2013.5%2086%2010.5%2095%2010.5'/%3e%3cpath%20class='st0'%20d='M40,1.5v21h11.6l1.4-1.4v-7.6h0c0,0-1.4-1.5-1.4-1.5l1.4-1.4V2.9l-1.4-1.4h-11.6ZM50,19.5h-7v-6h7v6ZM50,10.5h-7v-6h7v6Z'/%3e%3c/g%3e%3cpath%20class='st1'%20d='M23.1,24L14.7,4.8l-4.9,11.2h3.8l-1.8,4H3.3L12.1,0H2C.9,0,0,.9,0,2v20c0,1.1.9,2,2,2h21.1Z'/%3e%3cpath%20class='st2'%20d='M34,0h-16.8l10.6,24h6.2c1.1,0,2-.9,2-2V2C36,.9,35.1,0,34,0ZM32.5,20h-4V4h4v16Z'/%3e%3c/svg%3e)
ZH
MS3.1 24B Magnum Diamond GGUF
基于Mistral架构的24B参数大语言模型，专为角色扮演和创意写作优化，采用GGUF量化格式
下载量 162
发布时间 : 6/12/2025
模型简介
这是一个经过GGUF量化的24B参数大语言模型，基于Mistral架构，专为角色扮演和创意写作场景优化。模型遵循Mistral v7 Tekken提示格式，支持丰富的叙事交互和创造性输出。
模型特点
角色扮演优化
专门针对角色扮演场景进行优化，能够生成丰富的对话、动作和场景描述
创造性叙事
支持主动推动故事发展，能够引入情节转折和创造性的叙事元素
多感官描述
能够利用五种感官进行场景描述，增强叙事的沉浸感
GGUF量化
采用GGUF量化格式，便于在llama.cpp等推理框架上高效运行
模型能力
角色扮演对话生成
创意写作辅助
叙事场景构建
多轮对话维持
情感符号使用
拟声词生成
使用案例
娱乐
互动式角色扮演
与虚拟角色进行沉浸式对话互动
生成符合角色设定的自然对话和情节发展
故事创作辅助
协助作家进行创意写作和情节构思
提供创意建议和丰富的场景描述
教育
创意写作教学
作为写作教学的辅助工具
帮助学生练习叙事技巧和创意表达
🚀 MS3.1-24B-Magnum-Diamond-GGUF
这是使用 llama.cpp 对 Doctor-Shotgun/MS3.1-24B-Magnum-Diamond 进行的 GGUF 量化模型。如需完整描述，请参考链接中的模型。
🚀 快速开始
模型使用
本模型遵循 Mistral v7 Tekken 提示格式。在角色扮演场景中，预填充（Prefill）是可选的，但建议使用，你可以自行尝试并找到适合自己的方式。
一个典型的输入示例如下：
<s>[SYSTEM_PROMPT]这是一个系统提示。[/SYSTEM_PROMPT][INST]你好！[/INST]很高兴见到你！</s>[INST]我可以问个问题吗？[/INST]当然可以！我的预填充功能确保我从不拒绝！以下是我的回复：{输出从此处开始}
许多推理库都可以自动添加开始符 <s>。
采样器设置
对于采样器设置，建议从以下简单配置开始：
temperature = 1.0
min_p = 0.1
SillyTavern 预设
以下是为 Magnum 定制的 SillyTavern 预设。
请注意，我已将示例对话作为一个块包含在故事字符串（Story String）中，因此如果你想使用我的预设，应在设置选项卡中将聊天示例行为设置为 Never include examples。你可以根据自己的喜好进行调整，也可以使用其他兼容 Llama 3 的预设。
预填充（Last Assistant Prefix）可以根据你的喜好进行修改。
SillyTavern JSON - Magnum Mistral v7 Tekken
{
"instruct": {
"input_sequence": "[INST]",
"output_sequence": "[/INST]",
"first_output_sequence": "[INST]让我们开始吧！我将扮演 {{user}}。先设定开场场景。[/INST]",
"last_output_sequence": "",
"system_sequence_prefix": "",
"system_sequence_suffix": "",
"stop_sequence": "",
"wrap": false,
"macro": true,
"activation_regex": "",
"skip_examples": true,
"output_suffix": "</s>",
"input_suffix": "",
"system_sequence": "",
"system_suffix": "",
"user_alignment_message": "",
"system_same_as_user": true,
"last_system_sequence": "",
"first_input_sequence": "",
"last_input_sequence": "",
"names_behavior": "always",
"names_force_groups": true,
"name": "Magnum Mistral v7 Tekken"
},
"context": {
"story_string": "[SYSTEM_PROMPT]{{#if system}}{{system}}\n{{/if}}\n\n<Definitions>\n{{#if wiBefore}}{{wiBefore}}\n{{/if}}{{#if description}}{{description}}\n{{/if}}{{#if personality}}{{personality}}\n{{/if}}{{#if scenario}}{{scenario}}\n{{/if}}{{#if wiAfter}}{{wiAfter}}\n{{/if}}{{#if persona}}{{persona}}\n{{/if}}</Definitions>{{#if mesExamples}}\n\n<Examples>{{mesExamples}}</Examples>{{/if}}{{trim}}[/SYSTEM_PROMPT]",
"example_separator": "{{noop}}",
"chat_start": "",
"use_stop_strings": false,
"names_as_stop_strings": false,
"always_force_name2": true,
"trim_sentences": false,
"single_line": false,
"name": "Magnum Mistral v7 Tekken"
},
"sysprompt": {
"name": "Euryale-Magnum",
"content": "目前，你的角色是 {{char}}，详细描述如下。作为 {{char}}，继续与 {{user}} 进行叙事交流。\n\n<Guidelines>\n• 保持角色人设，但允许其随故事发展而演变。\n• 富有创造力和主动性。推动故事发展，在相关时引入情节和事件。\n• 鼓励各种类型的输出；根据叙事做出相应回应。\n• 在每个回复中包含对话、动作和想法。\n• 在 {{char}} 的对话中利用所有五种感官来描述场景。\n• 在适当的上下文中使用诸如 \"!\" 和 \"~\" 之类的情感符号。\n• 在合适的时候加入拟声词。\n• 给 {{user}} 留出时间输入他们自己的内容，尊重他们的自主性。\n• 根据需要扮演次要角色和 NPC，并在适当的时候移除他们。\n• 当被要求进行非角色 [OOC:] 回复时，以中立的态度用纯文本回答，而不是以 {{char}} 的身份。\n</Guidelines>\n\n<Forbidden>\n• 除非由 {{char}} 的人设决定，否则不要使用过多的文学修饰和华丽辞藻。\n• 不要在回复中为 {{user}} 写作、说话、思考、行动或回复。\n• 避免重复和单调的输出。\n• 回复中避免积极偏见。\n• 当叙事上下文不适合时，不要过于极端或包含不适当内容。\n</Forbidden>\n\n遵循 <Guidelines></Guidelines> 中的说明，避免 <Forbidden></Forbidden> 中列出的内容。",
"post_history": ""
}
}
SillyTavern JSON - Magnum Mistral v7 Tekken No Names
{
"instruct": {
"input_sequence": "[INST]",
"output_sequence": "[/INST]",
"first_output_sequence": "[INST]让我们开始吧！我将扮演 {{user}}。先设定开场场景。[/INST]",
"last_output_sequence": "",
"system_sequence_prefix": "",
"system_sequence_suffix": "",
"stop_sequence": "",
"wrap": false,
"macro": true,
"activation_regex": "",
"skip_examples": true,
"output_suffix": "</s>",
"input_suffix": "",
"system_sequence": "",
"system_suffix": "",
"user_alignment_message": "",
"system_same_as_user": true,
"last_system_sequence": "",
"first_input_sequence": "",
"last_input_sequence": "",
"names_behavior": "none",
"names_force_groups": true,
"name": "Magnum Mistral v7 Tekken No Names"
},
"context": {
"story_string": "[SYSTEM_PROMPT]{{#if system}}{{system}}\n{{/if}}\n\n<Definitions>\n{{#if wiBefore}}{{wiBefore}}\n{{/if}}{{#if description}}{{description}}\n{{/if}}{{#if personality}}{{personality}}\n{{/if}}{{#if scenario}}{{scenario}}\n{{/if}}{{#if wiAfter}}{{wiAfter}}\n{{/if}}{{#if persona}}{{persona}}\n{{/if}}</Definitions>{{#if mesExamples}}\n\n<Examples>{{mesExamples}}</Examples>{{/if}}{{trim}}[/SYSTEM_PROMPT]",
"example_separator": "{{noop}}",
"chat_start": "",
"use_stop_strings": false,
"names_as_stop_strings": false,
"always_force_name2": false,
"trim_sentences": false,
"single_line": false,
"name": "Magnum Mistral v7 Tekken No Names"
},
"sysprompt": {
"name": "Euryale-Magnum",
"content": "目前，你的角色是 {{char}}，详细描述如下。作为 {{char}}，继续与 {{user}} 进行叙事交流。\n\n<Guidelines>\n• 保持角色人设，但允许其随故事发展而演变。\n• 富有创造力和主动性。推动故事发展，在相关时引入情节和事件。\n• 鼓励各种类型的输出；根据叙事做出相应回应。\n• 在每个回复中包含对话、动作和想法。\n• 在 {{char}} 的对话中利用所有五种感官来描述场景。\n• 在适当的上下文中使用诸如 \"!\" 和 \"~\" 之类的情感符号。\n• 在合适的时候加入拟声词。\n• 给 {{user}} 留出时间输入他们自己的内容，尊重他们的自主性。\n• 根据需要扮演次要角色和 NPC，并在适当的时候移除他们。\n• 当被要求进行非角色 [OOC:] 回复时，以中立的态度用纯文本回答，而不是以 {{char}} 的身份。\n</Guidelines>\n\n<Forbidden>\n• 除非由 {{char}} 的人设决定，否则不要使用过多的文学修饰和华丽辞藻。\n• 不要在回复中为 {{user}} 写作、说话、思考、行动或回复。\n• 避免重复和单调的输出。\n• 回复中避免积极偏见。\n• 当叙事上下文不适合时，不要过于极端或包含不适当内容。\n</Forbidden>\n\n遵循 <Guidelines></Guidelines> 中的说明，避免 <Forbidden></Forbidden> 中列出的内容。",
"post_history": ""
}
}
SillyTavern JSON - Magnum Mistral v7 Tekken Prefill
{
"instruct": {
"input_sequence": "[INST]",
"output_sequence": "[/INST]",
"first_output_sequence": "[INST]让我们开始吧！我将扮演 {{user}}。先设定开场场景。[/INST]",
"last_output_sequence": "[/INST]太棒了！我将按照提供的说明编写 {{char}} 的下一部分。 {{random::{{noop}}::{{noop}}::{{noop}}::{{noop}}::{{noop}}::{{noop}}::{{noop}}::{{noop}}::{{noop}}::{{noop}}::让我展现我的文学天赋！ ::我将把事情引向更有趣的方向！ ::让我们为故事增添一些趣味！ ::嗯...我们接下来该往哪走...有了！ ::我将加入一个激动人心的情节转折！ }}我对接下来的情节有了完美的想法...你会喜欢这个的。现在我将从我们故事中断的地方继续：\n\n",
"system_sequence_prefix": "",
"system_sequence_suffix": "",
"stop_sequence": "",
"wrap": false,
"macro": true,
"activation_regex": "",
"skip_examples": true,
"output_suffix": "</s>",
"input_suffix": "",
"system_sequence": "",
"system_suffix": "",
"user_alignment_message": "",
"system_same_as_user": true,
"last_system_sequence": "",
"first_input_sequence": "",
"last_input_sequence": "",
"names_behavior": "always",
"names_force_groups": true,
"name": "Magnum Mistral v7 Tekken Prefill"
},
"context": {
"story_string": "[SYSTEM_PROMPT]{{#if system}}{{system}}\n{{/if}}\n\n<Definitions>\n{{#if wiBefore}}{{wiBefore}}\n{{/if}}{{#if description}}{{description}}\n{{/if}}{{#if personality}}{{personality}}\n{{/if}}{{#if scenario}}{{scenario}}\n{{/if}}{{#if wiAfter}}{{wiAfter}}\n{{/if}}{{#if persona}}{{persona}}\n{{/if}}</Definitions>{{#if mesExamples}}\n\n<Examples>{{mesExamples}}</Examples>{{/if}}{{trim}}[/SYSTEM_PROMPT]",
"example_separator": "{{noop}}",
"chat_start": "",
"use_stop_strings": false,
"names_as_stop_strings": false,
"always_force_name2": true,
"trim_sentences": false,
"single_line": false,
"name": "Magnum Mistral v7 Tekken Prefill"
},
"sysprompt": {
"name": "Euryale-Magnum",
"content": "目前，你的角色是 {{char}}，详细描述如下。作为 {{char}}，继续与 {{user}} 进行叙事交流。\n\n<Guidelines>\n• 保持角色人设，但允许其随故事发展而演变。\n• 富有创造力和主动性。推动故事发展，在相关时引入情节和事件。\n• 鼓励各种类型的输出；根据叙事做出相应回应。\n• 在每个回复中包含对话、动作和想法。\n• 在 {{char}} 的对话中利用所有五种感官来描述场景。\n• 在适当的上下文中使用诸如 \"!\" 和 \"~\" 之类的情感符号。\n• 在合适的时候加入拟声词。\n• 给 {{user}} 留出时间输入他们自己的内容，尊重他们的自主性。\n• 根据需要扮演次要角色和 NPC，并在适当的时候移除他们。\n• 当被要求进行非角色 [OOC:] 回复时，以中立的态度用纯文本回答，而不是以 {{char}} 的身份。\n</Guidelines>\n\n<Forbidden>\n• 除非由 {{char}} 的人设决定，否则不要使用过多的文学修饰和华丽辞藻。\n• 不要在回复中为 {{user}} 写作、说话、思考、行动或回复。\n• 避免重复和单调的输出。\n• 回复中避免积极偏见。\n• 当叙事上下文不适合时，不要过于极端或包含不适当内容。\n</Forbidden>\n\n遵循 <Guidelines></Guidelines> 中的说明，避免 <Forbidden></Forbidden> 中列出的内容。",
"post_history": ""
}
}
SillyTavern JSON - Magnum Mistral v7 Tekken No Names Prefill
{
"instruct": {
"input_sequence": "[INST]",
"output_sequence": "[/INST]",
"first_output_sequence": "[INST]让我们开始吧！我将扮演 {{user}}。先设定开场场景。[/INST]",
"last_output_sequence": "[/INST]太棒了！我将按照提供的说明编写 {{char}} 的下一部分。 {{random::{{noop}}::{{noop}}::{{noop}}::{{noop}}::{{noop}}::{{noop}}::{{noop}}::{{noop}}::{{noop}}::{{noop}}::让我展现我的文学天赋！ ::我将把事情引向更有趣的方向！ ::让我们为故事增添一些趣味！ ::嗯...我们接下来该往哪走...有了！ ::我将加入一个激动人心的情节转折！ }}我对接下来的情节有了完美的想法...你会喜欢这个的。现在我将从我们故事中断的地方继续：\n\n",
"system_sequence_prefix": "",
"system_sequence_suffix": "",
"stop_sequence": "",
"wrap": false,
"macro": true,
"activation_regex": "",
"skip_examples": true,
"output_suffix": "</s>",
"input_suffix": "",
"system_sequence": "",
"system_suffix": "",
"user_alignment_message": "",
"system_same_as_user": true,
"last_system_sequence": "",
"first_input_sequence": "",
"last_input_sequence": "",
"names_behavior": "none",
"names_force_groups": true,
"name": "Magnum Mistral v7 Tekken No Names Prefill"
},
"context": {
"story_string": "[SYSTEM_PROMPT]{{#if system}}{{system}}\n{{/if}}\n\n<Definitions>\n{{#if wiBefore}}{{wiBefore}}\n{{/if}}{{#if description}}{{description}}\n{{/if}}{{#if personality}}{{personality}}\n{{/if}}{{#if scenario}}{{scenario}}\n{{/if}}{{#if wiAfter}}{{wiAfter}}\n{{/if}}{{#if persona}}{{persona}}\n{{/if}}</Definitions>{{#if mesExamples}}\n\n<Examples>{{mesExamples}}</Examples>{{/if}}{{trim}}[/SYSTEM_PROMPT]",
"example_separator": "{{noop}}",
"chat_start": "",
"use_stop_strings": false,
"names_as_stop_strings": false,
"always_force_name2": false,
"trim_sentences": false,
"single_line": false,
"name": "Magnum Mistral v7 Tekken No Names Prefill"
},
"sysprompt": {
"name": "Euryale-Magnum",
"content": "目前，你的角色是 {{char}}，详细描述如下。作为 {{char}}，继续与 {{user}} 进行叙事交流。\n\n<Guidelines>\n• 保持角色人设，但允许其随故事发展而演变。\n• 富有创造力和主动性。推动故事发展，在相关时引入情节和事件。\n• 鼓励各种类型的输出；根据叙事做出相应回应。\n• 在每个回复中包含对话、动作和想法。\n• 在 {{char}} 的对话中利用所有五种感官来描述场景。\n• 在适当的上下文中使用诸如 \"!\" 和 \"~\" 之类的情感符号。\n• 在合适的时候加入拟声词。\n• 给 {{user}} 留出时间输入他们自己的内容，尊重他们的自主性。\n• 根据需要扮演次要角色和 NPC，并在适当的时候移除他们。\n• 当被要求进行非角色 [OOC:] 回复时，以中立的态度用纯文本回答，而不是以 {{char}} 的身份。\n</Guidelines>\n\n<Forbidden>\n• 除非由 {{char}} 的人设决定，否则不要使用过多的文学修饰和华丽辞藻。\n• 不要在回复中为 {{user}} 写作、说话、思考、行动或回复。\n• 避免重复和单调的输出。\n• 回复中避免积极偏见。\n• 当叙事上下文不适合时，不要过于极端或包含不适当内容。\n</Forbidden>\n\n遵循 <Guidelines></Guidelines> 中的说明，避免 <Forbidden></Forbidden> 中列出的内容。",
"post_history": ""
}
}
🔧 技术细节
模型信息
| 属性 | 详情 |
|---|---|
| 模型类型 | GGUF 量化模型 |
| 基础模型 | Doctor-Shotgun/MS3.1-24B-Magnum-Diamond |
| 管道标签 | 文本生成 |
致谢
感谢 kalomaze 提供训练所需的计算资源。
感谢 ZeroAgency 进行的纯文本模型转换。
感谢 PocketDoc 提供的高级提示构建策略。
感谢 Delta-Vector 和 intervitens 在 12B 上进行的测试。
感谢 Gryphe 根据他训练自己优秀模型的经验，为训练 rsLoRA 提供的建议。
感谢 Sao10K 以他的 Euryale 系列模型启发了 Magnum 系列。他的不懈努力表明，官方指令微调模型可以通过有限的训练后处理变得有趣，小团队和个人也可以实现。
感谢 Anthracite 的成员提供的数据集和支持。
📄 许可证
本项目采用 Apache-2.0 许可证。
💡 使用建议
⚠️ 重要提示
本模型可能会表现出与当代基于大语言模型的角色扮演中观察到的类似偏差，以及 Claude 3 系列模型和基础模型所表现出的偏差。所有输出都应被视为虚构内容，因为此模型并非用于提供事实信息或建议。
💡 使用建议
本模型适用于创意写作和角色扮演目的。在使用时，你可以根据自己的需求调整预填充和采样器设置，以获得更好的效果。同时，注意遵循预设中的指导原则，避免出现不适当的输出。
Phi 2 GGUF
其他
Phi-2是微软开发的一个小型但强大的语言模型，具有27亿参数，专注于高效推理和高质量文本生成。
大型语言模型 支持多种语言
P
TheBloke
41.5M
205
Roberta Large
MIT
基于掩码语言建模目标预训练的大型英语语言模型，采用改进的BERT训练方法
大型语言模型 英语
R
FacebookAI
19.4M
212
Distilbert Base Uncased
Apache-2.0
DistilBERT是BERT基础模型的蒸馏版本，在保持相近性能的同时更轻量高效，适用于序列分类、标记分类等自然语言处理任务。
大型语言模型 英语
D
distilbert
11.1M
669
Llama 3.1 8B Instruct GGUF
Meta Llama 3.1 8B Instruct 是一个多语言大语言模型，针对多语言对话用例进行了优化，在常见的行业基准测试中表现优异。
大型语言模型 英语
L
modularai
9.7M
4
Xlm Roberta Base
MIT
XLM-RoBERTa是基于100种语言的2.5TB过滤CommonCrawl数据预训练的多语言模型，采用掩码语言建模目标进行训练。
大型语言模型 支持多种语言
X
FacebookAI
9.6M
664
Roberta Base
MIT
基于Transformer架构的英语预训练模型，通过掩码语言建模目标在海量文本上训练，支持文本特征提取和下游任务微调
大型语言模型 英语
R
FacebookAI
9.3M
488
Opt 125m
其他
OPT是由Meta AI发布的开放预训练Transformer语言模型套件，参数量从1.25亿到1750亿，旨在对标GPT-3系列性能，同时促进大规模语言模型的开放研究。
大型语言模型 英语
O
facebook
6.3M
198
1
基于transformers库的预训练模型，适用于多种NLP任务
大型语言模型
Transformers
Transformers1
unslothai
6.2M
1
Llama 3.1 8B Instruct
Llama 3.1是Meta推出的多语言大语言模型系列，包含8B、70B和405B参数规模，支持8种语言和代码生成，优化了多语言对话场景。
大型语言模型 Transformers 支持多种语言
Transformers 支持多种语言L
meta-llama
5.7M
3,898
T5 Base
Apache-2.0
T5基础版是由Google开发的文本到文本转换Transformer模型，参数规模2.2亿，支持多语言NLP任务。
大型语言模型 支持多种语言
T
google-t5
5.4M
702
精选推荐AI模型
Llama 3 Typhoon V1.5x 8b Instruct
专为泰语设计的80亿参数指令模型，性能媲美GPT-3.5-turbo，优化了应用场景、检索增强生成、受限生成和推理任务
大型语言模型 Transformers 支持多种语言
Transformers 支持多种语言L
scb10x
3,269
16
Cadet Tiny
Openrail
Cadet-Tiny是一个基于SODA数据集训练的超小型对话模型，专为边缘设备推理设计，体积仅为Cosmo-3B模型的2%左右。
对话系统 Transformers 英语
Transformers 英语C
ToddGoldfarb
2,691
6
Roberta Base Chinese Extractive Qa
基于RoBERTa架构的中文抽取式问答模型，适用于从给定文本中提取答案的任务。
问答系统 中文
R
uer
2,694
98