模型简介
模型特点
模型能力
使用案例
🚀 MS3.1-24B-Magnum-Diamond-GGUF
这是使用 llama.cpp 对 Doctor-Shotgun/MS3.1-24B-Magnum-Diamond 进行的 GGUF 量化模型。如需完整描述,请参考链接中的模型。
🚀 快速开始
模型使用
本模型遵循 Mistral v7 Tekken 提示格式。在角色扮演场景中,预填充(Prefill)是可选的,但建议使用,你可以自行尝试并找到适合自己的方式。
一个典型的输入示例如下:
<s>[SYSTEM_PROMPT]这是一个系统提示。[/SYSTEM_PROMPT][INST]你好![/INST]很高兴见到你!</s>[INST]我可以问个问题吗?[/INST]当然可以!我的预填充功能确保我从不拒绝!以下是我的回复:{输出从此处开始}
许多推理库都可以自动添加开始符 <s>
。
采样器设置
对于采样器设置,建议从以下简单配置开始:
temperature = 1.0
min_p = 0.1
SillyTavern 预设
以下是为 Magnum 定制的 SillyTavern 预设。
请注意,我已将示例对话作为一个块包含在故事字符串(Story String)中,因此如果你想使用我的预设,应在设置选项卡中将聊天示例行为设置为 Never include examples
。你可以根据自己的喜好进行调整,也可以使用其他兼容 Llama 3 的预设。
预填充(Last Assistant Prefix)可以根据你的喜好进行修改。
SillyTavern JSON - Magnum Mistral v7 Tekken
{
"instruct": {
"input_sequence": "[INST]",
"output_sequence": "[/INST]",
"first_output_sequence": "[INST]让我们开始吧!我将扮演 {{user}}。先设定开场场景。[/INST]",
"last_output_sequence": "",
"system_sequence_prefix": "",
"system_sequence_suffix": "",
"stop_sequence": "",
"wrap": false,
"macro": true,
"activation_regex": "",
"skip_examples": true,
"output_suffix": "</s>",
"input_suffix": "",
"system_sequence": "",
"system_suffix": "",
"user_alignment_message": "",
"system_same_as_user": true,
"last_system_sequence": "",
"first_input_sequence": "",
"last_input_sequence": "",
"names_behavior": "always",
"names_force_groups": true,
"name": "Magnum Mistral v7 Tekken"
},
"context": {
"story_string": "[SYSTEM_PROMPT]{{#if system}}{{system}}\n{{/if}}\n\n<Definitions>\n{{#if wiBefore}}{{wiBefore}}\n{{/if}}{{#if description}}{{description}}\n{{/if}}{{#if personality}}{{personality}}\n{{/if}}{{#if scenario}}{{scenario}}\n{{/if}}{{#if wiAfter}}{{wiAfter}}\n{{/if}}{{#if persona}}{{persona}}\n{{/if}}</Definitions>{{#if mesExamples}}\n\n<Examples>{{mesExamples}}</Examples>{{/if}}{{trim}}[/SYSTEM_PROMPT]",
"example_separator": "{{noop}}",
"chat_start": "",
"use_stop_strings": false,
"names_as_stop_strings": false,
"always_force_name2": true,
"trim_sentences": false,
"single_line": false,
"name": "Magnum Mistral v7 Tekken"
},
"sysprompt": {
"name": "Euryale-Magnum",
"content": "目前,你的角色是 {{char}},详细描述如下。作为 {{char}},继续与 {{user}} 进行叙事交流。\n\n<Guidelines>\n• 保持角色人设,但允许其随故事发展而演变。\n• 富有创造力和主动性。推动故事发展,在相关时引入情节和事件。\n• 鼓励各种类型的输出;根据叙事做出相应回应。\n• 在每个回复中包含对话、动作和想法。\n• 在 {{char}} 的对话中利用所有五种感官来描述场景。\n• 在适当的上下文中使用诸如 \"!\" 和 \"~\" 之类的情感符号。\n• 在合适的时候加入拟声词。\n• 给 {{user}} 留出时间输入他们自己的内容,尊重他们的自主性。\n• 根据需要扮演次要角色和 NPC,并在适当的时候移除他们。\n• 当被要求进行非角色 [OOC:] 回复时,以中立的态度用纯文本回答,而不是以 {{char}} 的身份。\n</Guidelines>\n\n<Forbidden>\n• 除非由 {{char}} 的人设决定,否则不要使用过多的文学修饰和华丽辞藻。\n• 不要在回复中为 {{user}} 写作、说话、思考、行动或回复。\n• 避免重复和单调的输出。\n• 回复中避免积极偏见。\n• 当叙事上下文不适合时,不要过于极端或包含不适当内容。\n</Forbidden>\n\n遵循 <Guidelines></Guidelines> 中的说明,避免 <Forbidden></Forbidden> 中列出的内容。",
"post_history": ""
}
}
SillyTavern JSON - Magnum Mistral v7 Tekken No Names
{
"instruct": {
"input_sequence": "[INST]",
"output_sequence": "[/INST]",
"first_output_sequence": "[INST]让我们开始吧!我将扮演 {{user}}。先设定开场场景。[/INST]",
"last_output_sequence": "",
"system_sequence_prefix": "",
"system_sequence_suffix": "",
"stop_sequence": "",
"wrap": false,
"macro": true,
"activation_regex": "",
"skip_examples": true,
"output_suffix": "</s>",
"input_suffix": "",
"system_sequence": "",
"system_suffix": "",
"user_alignment_message": "",
"system_same_as_user": true,
"last_system_sequence": "",
"first_input_sequence": "",
"last_input_sequence": "",
"names_behavior": "none",
"names_force_groups": true,
"name": "Magnum Mistral v7 Tekken No Names"
},
"context": {
"story_string": "[SYSTEM_PROMPT]{{#if system}}{{system}}\n{{/if}}\n\n<Definitions>\n{{#if wiBefore}}{{wiBefore}}\n{{/if}}{{#if description}}{{description}}\n{{/if}}{{#if personality}}{{personality}}\n{{/if}}{{#if scenario}}{{scenario}}\n{{/if}}{{#if wiAfter}}{{wiAfter}}\n{{/if}}{{#if persona}}{{persona}}\n{{/if}}</Definitions>{{#if mesExamples}}\n\n<Examples>{{mesExamples}}</Examples>{{/if}}{{trim}}[/SYSTEM_PROMPT]",
"example_separator": "{{noop}}",
"chat_start": "",
"use_stop_strings": false,
"names_as_stop_strings": false,
"always_force_name2": false,
"trim_sentences": false,
"single_line": false,
"name": "Magnum Mistral v7 Tekken No Names"
},
"sysprompt": {
"name": "Euryale-Magnum",
"content": "目前,你的角色是 {{char}},详细描述如下。作为 {{char}},继续与 {{user}} 进行叙事交流。\n\n<Guidelines>\n• 保持角色人设,但允许其随故事发展而演变。\n• 富有创造力和主动性。推动故事发展,在相关时引入情节和事件。\n• 鼓励各种类型的输出;根据叙事做出相应回应。\n• 在每个回复中包含对话、动作和想法。\n• 在 {{char}} 的对话中利用所有五种感官来描述场景。\n• 在适当的上下文中使用诸如 \"!\" 和 \"~\" 之类的情感符号。\n• 在合适的时候加入拟声词。\n• 给 {{user}} 留出时间输入他们自己的内容,尊重他们的自主性。\n• 根据需要扮演次要角色和 NPC,并在适当的时候移除他们。\n• 当被要求进行非角色 [OOC:] 回复时,以中立的态度用纯文本回答,而不是以 {{char}} 的身份。\n</Guidelines>\n\n<Forbidden>\n• 除非由 {{char}} 的人设决定,否则不要使用过多的文学修饰和华丽辞藻。\n• 不要在回复中为 {{user}} 写作、说话、思考、行动或回复。\n• 避免重复和单调的输出。\n• 回复中避免积极偏见。\n• 当叙事上下文不适合时,不要过于极端或包含不适当内容。\n</Forbidden>\n\n遵循 <Guidelines></Guidelines> 中的说明,避免 <Forbidden></Forbidden> 中列出的内容。",
"post_history": ""
}
}
SillyTavern JSON - Magnum Mistral v7 Tekken Prefill
{
"instruct": {
"input_sequence": "[INST]",
"output_sequence": "[/INST]",
"first_output_sequence": "[INST]让我们开始吧!我将扮演 {{user}}。先设定开场场景。[/INST]",
"last_output_sequence": "[/INST]太棒了!我将按照提供的说明编写 {{char}} 的下一部分。 {{random::{{noop}}::{{noop}}::{{noop}}::{{noop}}::{{noop}}::{{noop}}::{{noop}}::{{noop}}::{{noop}}::{{noop}}::让我展现我的文学天赋! ::我将把事情引向更有趣的方向! ::让我们为故事增添一些趣味! ::嗯...我们接下来该往哪走...有了! ::我将加入一个激动人心的情节转折! }}我对接下来的情节有了完美的想法...你会喜欢这个的。现在我将从我们故事中断的地方继续:\n\n",
"system_sequence_prefix": "",
"system_sequence_suffix": "",
"stop_sequence": "",
"wrap": false,
"macro": true,
"activation_regex": "",
"skip_examples": true,
"output_suffix": "</s>",
"input_suffix": "",
"system_sequence": "",
"system_suffix": "",
"user_alignment_message": "",
"system_same_as_user": true,
"last_system_sequence": "",
"first_input_sequence": "",
"last_input_sequence": "",
"names_behavior": "always",
"names_force_groups": true,
"name": "Magnum Mistral v7 Tekken Prefill"
},
"context": {
"story_string": "[SYSTEM_PROMPT]{{#if system}}{{system}}\n{{/if}}\n\n<Definitions>\n{{#if wiBefore}}{{wiBefore}}\n{{/if}}{{#if description}}{{description}}\n{{/if}}{{#if personality}}{{personality}}\n{{/if}}{{#if scenario}}{{scenario}}\n{{/if}}{{#if wiAfter}}{{wiAfter}}\n{{/if}}{{#if persona}}{{persona}}\n{{/if}}</Definitions>{{#if mesExamples}}\n\n<Examples>{{mesExamples}}</Examples>{{/if}}{{trim}}[/SYSTEM_PROMPT]",
"example_separator": "{{noop}}",
"chat_start": "",
"use_stop_strings": false,
"names_as_stop_strings": false,
"always_force_name2": true,
"trim_sentences": false,
"single_line": false,
"name": "Magnum Mistral v7 Tekken Prefill"
},
"sysprompt": {
"name": "Euryale-Magnum",
"content": "目前,你的角色是 {{char}},详细描述如下。作为 {{char}},继续与 {{user}} 进行叙事交流。\n\n<Guidelines>\n• 保持角色人设,但允许其随故事发展而演变。\n• 富有创造力和主动性。推动故事发展,在相关时引入情节和事件。\n• 鼓励各种类型的输出;根据叙事做出相应回应。\n• 在每个回复中包含对话、动作和想法。\n• 在 {{char}} 的对话中利用所有五种感官来描述场景。\n• 在适当的上下文中使用诸如 \"!\" 和 \"~\" 之类的情感符号。\n• 在合适的时候加入拟声词。\n• 给 {{user}} 留出时间输入他们自己的内容,尊重他们的自主性。\n• 根据需要扮演次要角色和 NPC,并在适当的时候移除他们。\n• 当被要求进行非角色 [OOC:] 回复时,以中立的态度用纯文本回答,而不是以 {{char}} 的身份。\n</Guidelines>\n\n<Forbidden>\n• 除非由 {{char}} 的人设决定,否则不要使用过多的文学修饰和华丽辞藻。\n• 不要在回复中为 {{user}} 写作、说话、思考、行动或回复。\n• 避免重复和单调的输出。\n• 回复中避免积极偏见。\n• 当叙事上下文不适合时,不要过于极端或包含不适当内容。\n</Forbidden>\n\n遵循 <Guidelines></Guidelines> 中的说明,避免 <Forbidden></Forbidden> 中列出的内容。",
"post_history": ""
}
}
SillyTavern JSON - Magnum Mistral v7 Tekken No Names Prefill
{
"instruct": {
"input_sequence": "[INST]",
"output_sequence": "[/INST]",
"first_output_sequence": "[INST]让我们开始吧!我将扮演 {{user}}。先设定开场场景。[/INST]",
"last_output_sequence": "[/INST]太棒了!我将按照提供的说明编写 {{char}} 的下一部分。 {{random::{{noop}}::{{noop}}::{{noop}}::{{noop}}::{{noop}}::{{noop}}::{{noop}}::{{noop}}::{{noop}}::{{noop}}::让我展现我的文学天赋! ::我将把事情引向更有趣的方向! ::让我们为故事增添一些趣味! ::嗯...我们接下来该往哪走...有了! ::我将加入一个激动人心的情节转折! }}我对接下来的情节有了完美的想法...你会喜欢这个的。现在我将从我们故事中断的地方继续:\n\n",
"system_sequence_prefix": "",
"system_sequence_suffix": "",
"stop_sequence": "",
"wrap": false,
"macro": true,
"activation_regex": "",
"skip_examples": true,
"output_suffix": "</s>",
"input_suffix": "",
"system_sequence": "",
"system_suffix": "",
"user_alignment_message": "",
"system_same_as_user": true,
"last_system_sequence": "",
"first_input_sequence": "",
"last_input_sequence": "",
"names_behavior": "none",
"names_force_groups": true,
"name": "Magnum Mistral v7 Tekken No Names Prefill"
},
"context": {
"story_string": "[SYSTEM_PROMPT]{{#if system}}{{system}}\n{{/if}}\n\n<Definitions>\n{{#if wiBefore}}{{wiBefore}}\n{{/if}}{{#if description}}{{description}}\n{{/if}}{{#if personality}}{{personality}}\n{{/if}}{{#if scenario}}{{scenario}}\n{{/if}}{{#if wiAfter}}{{wiAfter}}\n{{/if}}{{#if persona}}{{persona}}\n{{/if}}</Definitions>{{#if mesExamples}}\n\n<Examples>{{mesExamples}}</Examples>{{/if}}{{trim}}[/SYSTEM_PROMPT]",
"example_separator": "{{noop}}",
"chat_start": "",
"use_stop_strings": false,
"names_as_stop_strings": false,
"always_force_name2": false,
"trim_sentences": false,
"single_line": false,
"name": "Magnum Mistral v7 Tekken No Names Prefill"
},
"sysprompt": {
"name": "Euryale-Magnum",
"content": "目前,你的角色是 {{char}},详细描述如下。作为 {{char}},继续与 {{user}} 进行叙事交流。\n\n<Guidelines>\n• 保持角色人设,但允许其随故事发展而演变。\n• 富有创造力和主动性。推动故事发展,在相关时引入情节和事件。\n• 鼓励各种类型的输出;根据叙事做出相应回应。\n• 在每个回复中包含对话、动作和想法。\n• 在 {{char}} 的对话中利用所有五种感官来描述场景。\n• 在适当的上下文中使用诸如 \"!\" 和 \"~\" 之类的情感符号。\n• 在合适的时候加入拟声词。\n• 给 {{user}} 留出时间输入他们自己的内容,尊重他们的自主性。\n• 根据需要扮演次要角色和 NPC,并在适当的时候移除他们。\n• 当被要求进行非角色 [OOC:] 回复时,以中立的态度用纯文本回答,而不是以 {{char}} 的身份。\n</Guidelines>\n\n<Forbidden>\n• 除非由 {{char}} 的人设决定,否则不要使用过多的文学修饰和华丽辞藻。\n• 不要在回复中为 {{user}} 写作、说话、思考、行动或回复。\n• 避免重复和单调的输出。\n• 回复中避免积极偏见。\n• 当叙事上下文不适合时,不要过于极端或包含不适当内容。\n</Forbidden>\n\n遵循 <Guidelines></Guidelines> 中的说明,避免 <Forbidden></Forbidden> 中列出的内容。",
"post_history": ""
}
}
🔧 技术细节
模型信息
属性 | 详情 |
---|---|
模型类型 | GGUF 量化模型 |
基础模型 | Doctor-Shotgun/MS3.1-24B-Magnum-Diamond |
管道标签 | 文本生成 |
致谢
感谢 kalomaze 提供训练所需的计算资源。
感谢 ZeroAgency 进行的纯文本模型转换。
感谢 PocketDoc 提供的高级提示构建策略。
感谢 Delta-Vector 和 intervitens 在 12B 上进行的测试。
感谢 Gryphe 根据他训练自己优秀模型的经验,为训练 rsLoRA 提供的建议。
感谢 Sao10K 以他的 Euryale 系列模型启发了 Magnum 系列。他的不懈努力表明,官方指令微调模型可以通过有限的训练后处理变得有趣,小团队和个人也可以实现。
感谢 Anthracite 的成员提供的数据集和支持。
📄 许可证
本项目采用 Apache-2.0 许可证。
💡 使用建议
⚠️ 重要提示
本模型可能会表现出与当代基于大语言模型的角色扮演中观察到的类似偏差,以及 Claude 3 系列模型和基础模型所表现出的偏差。所有输出都应被视为虚构内容,因为此模型并非用于提供事实信息或建议。
💡 使用建议
本模型适用于创意写作和角色扮演目的。在使用时,你可以根据自己的需求调整预填充和采样器设置,以获得更好的效果。同时,注意遵循预设中的指导原则,避免出现不适当的输出。



