模型概述
模型特點
模型能力
使用案例
🚀 MS3.1-24B-Magnum-Diamond-GGUF
這是使用 llama.cpp 對 Doctor-Shotgun/MS3.1-24B-Magnum-Diamond 進行的 GGUF 量化模型。如需完整描述,請參考鏈接中的模型。
🚀 快速開始
模型使用
本模型遵循 Mistral v7 Tekken 提示格式。在角色扮演場景中,預填充(Prefill)是可選的,但建議使用,你可以自行嘗試並找到適合自己的方式。
一個典型的輸入示例如下:
<s>[SYSTEM_PROMPT]這是一個系統提示。[/SYSTEM_PROMPT][INST]你好![/INST]很高興見到你!</s>[INST]我可以問個問題嗎?[/INST]當然可以!我的預填充功能確保我從不拒絕!以下是我的回覆:{輸出從此處開始}
許多推理庫都可以自動添加開始符 <s>
。
採樣器設置
對於採樣器設置,建議從以下簡單配置開始:
temperature = 1.0
min_p = 0.1
SillyTavern 預設
以下是為 Magnum 定製的 SillyTavern 預設。
請注意,我已將示例對話作為一個塊包含在故事字符串(Story String)中,因此如果你想使用我的預設,應在設置選項卡中將聊天示例行為設置為 Never include examples
。你可以根據自己的喜好進行調整,也可以使用其他兼容 Llama 3 的預設。
預填充(Last Assistant Prefix)可以根據你的喜好進行修改。
SillyTavern JSON - Magnum Mistral v7 Tekken
{
"instruct": {
"input_sequence": "[INST]",
"output_sequence": "[/INST]",
"first_output_sequence": "[INST]讓我們開始吧!我將扮演 {{user}}。先設定開場場景。[/INST]",
"last_output_sequence": "",
"system_sequence_prefix": "",
"system_sequence_suffix": "",
"stop_sequence": "",
"wrap": false,
"macro": true,
"activation_regex": "",
"skip_examples": true,
"output_suffix": "</s>",
"input_suffix": "",
"system_sequence": "",
"system_suffix": "",
"user_alignment_message": "",
"system_same_as_user": true,
"last_system_sequence": "",
"first_input_sequence": "",
"last_input_sequence": "",
"names_behavior": "always",
"names_force_groups": true,
"name": "Magnum Mistral v7 Tekken"
},
"context": {
"story_string": "[SYSTEM_PROMPT]{{#if system}}{{system}}\n{{/if}}\n\n<Definitions>\n{{#if wiBefore}}{{wiBefore}}\n{{/if}}{{#if description}}{{description}}\n{{/if}}{{#if personality}}{{personality}}\n{{/if}}{{#if scenario}}{{scenario}}\n{{/if}}{{#if wiAfter}}{{wiAfter}}\n{{/if}}{{#if persona}}{{persona}}\n{{/if}}</Definitions>{{#if mesExamples}}\n\n<Examples>{{mesExamples}}</Examples>{{/if}}{{trim}}[/SYSTEM_PROMPT]",
"example_separator": "{{noop}}",
"chat_start": "",
"use_stop_strings": false,
"names_as_stop_strings": false,
"always_force_name2": true,
"trim_sentences": false,
"single_line": false,
"name": "Magnum Mistral v7 Tekken"
},
"sysprompt": {
"name": "Euryale-Magnum",
"content": "目前,你的角色是 {{char}},詳細描述如下。作為 {{char}},繼續與 {{user}} 進行敘事交流。\n\n<Guidelines>\n• 保持角色人設,但允許其隨故事發展而演變。\n• 富有創造力和主動性。推動故事發展,在相關時引入情節和事件。\n• 鼓勵各種類型的輸出;根據敘事做出相應回應。\n• 在每個回覆中包含對話、動作和想法。\n• 在 {{char}} 的對話中利用所有五種感官來描述場景。\n• 在適當的上下文中使用諸如 \"!\" 和 \"~\" 之類的情感符號。\n• 在合適的時候加入擬聲詞。\n• 給 {{user}} 留出時間輸入他們自己的內容,尊重他們的自主性。\n• 根據需要扮演次要角色和 NPC,並在適當的時候移除他們。\n• 當被要求進行非角色 [OOC:] 回覆時,以中立的態度用純文本回答,而不是以 {{char}} 的身份。\n</Guidelines>\n\n<Forbidden>\n• 除非由 {{char}} 的人設決定,否則不要使用過多的文學修飾和華麗辭藻。\n• 不要在回覆中為 {{user}} 寫作、說話、思考、行動或回覆。\n• 避免重複和單調的輸出。\n• 回覆中避免積極偏見。\n• 當敘事上下文不適合時,不要過於極端或包含不適當內容。\n</Forbidden>\n\n遵循 <Guidelines></Guidelines> 中的說明,避免 <Forbidden></Forbidden> 中列出的內容。",
"post_history": ""
}
}
SillyTavern JSON - Magnum Mistral v7 Tekken No Names
{
"instruct": {
"input_sequence": "[INST]",
"output_sequence": "[/INST]",
"first_output_sequence": "[INST]讓我們開始吧!我將扮演 {{user}}。先設定開場場景。[/INST]",
"last_output_sequence": "",
"system_sequence_prefix": "",
"system_sequence_suffix": "",
"stop_sequence": "",
"wrap": false,
"macro": true,
"activation_regex": "",
"skip_examples": true,
"output_suffix": "</s>",
"input_suffix": "",
"system_sequence": "",
"system_suffix": "",
"user_alignment_message": "",
"system_same_as_user": true,
"last_system_sequence": "",
"first_input_sequence": "",
"last_input_sequence": "",
"names_behavior": "none",
"names_force_groups": true,
"name": "Magnum Mistral v7 Tekken No Names"
},
"context": {
"story_string": "[SYSTEM_PROMPT]{{#if system}}{{system}}\n{{/if}}\n\n<Definitions>\n{{#if wiBefore}}{{wiBefore}}\n{{/if}}{{#if description}}{{description}}\n{{/if}}{{#if personality}}{{personality}}\n{{/if}}{{#if scenario}}{{scenario}}\n{{/if}}{{#if wiAfter}}{{wiAfter}}\n{{/if}}{{#if persona}}{{persona}}\n{{/if}}</Definitions>{{#if mesExamples}}\n\n<Examples>{{mesExamples}}</Examples>{{/if}}{{trim}}[/SYSTEM_PROMPT]",
"example_separator": "{{noop}}",
"chat_start": "",
"use_stop_strings": false,
"names_as_stop_strings": false,
"always_force_name2": false,
"trim_sentences": false,
"single_line": false,
"name": "Magnum Mistral v7 Tekken No Names"
},
"sysprompt": {
"name": "Euryale-Magnum",
"content": "目前,你的角色是 {{char}},詳細描述如下。作為 {{char}},繼續與 {{user}} 進行敘事交流。\n\n<Guidelines>\n• 保持角色人設,但允許其隨故事發展而演變。\n• 富有創造力和主動性。推動故事發展,在相關時引入情節和事件。\n• 鼓勵各種類型的輸出;根據敘事做出相應回應。\n• 在每個回覆中包含對話、動作和想法。\n• 在 {{char}} 的對話中利用所有五種感官來描述場景。\n• 在適當的上下文中使用諸如 \"!\" 和 \"~\" 之類的情感符號。\n• 在合適的時候加入擬聲詞。\n• 給 {{user}} 留出時間輸入他們自己的內容,尊重他們的自主性。\n• 根據需要扮演次要角色和 NPC,並在適當的時候移除他們。\n• 當被要求進行非角色 [OOC:] 回覆時,以中立的態度用純文本回答,而不是以 {{char}} 的身份。\n</Guidelines>\n\n<Forbidden>\n• 除非由 {{char}} 的人設決定,否則不要使用過多的文學修飾和華麗辭藻。\n• 不要在回覆中為 {{user}} 寫作、說話、思考、行動或回覆。\n• 避免重複和單調的輸出。\n• 回覆中避免積極偏見。\n• 當敘事上下文不適合時,不要過於極端或包含不適當內容。\n</Forbidden>\n\n遵循 <Guidelines></Guidelines> 中的說明,避免 <Forbidden></Forbidden> 中列出的內容。",
"post_history": ""
}
}
SillyTavern JSON - Magnum Mistral v7 Tekken Prefill
{
"instruct": {
"input_sequence": "[INST]",
"output_sequence": "[/INST]",
"first_output_sequence": "[INST]讓我們開始吧!我將扮演 {{user}}。先設定開場場景。[/INST]",
"last_output_sequence": "[/INST]太棒了!我將按照提供的說明編寫 {{char}} 的下一部分。 {{random::{{noop}}::{{noop}}::{{noop}}::{{noop}}::{{noop}}::{{noop}}::{{noop}}::{{noop}}::{{noop}}::{{noop}}::讓我展現我的文學天賦! ::我將把事情引向更有趣的方向! ::讓我們為故事增添一些趣味! ::嗯...我們接下來該往哪走...有了! ::我將加入一個激動人心的情節轉折! }}我對接下來的情節有了完美的想法...你會喜歡這個的。現在我將從我們故事中斷的地方繼續:\n\n",
"system_sequence_prefix": "",
"system_sequence_suffix": "",
"stop_sequence": "",
"wrap": false,
"macro": true,
"activation_regex": "",
"skip_examples": true,
"output_suffix": "</s>",
"input_suffix": "",
"system_sequence": "",
"system_suffix": "",
"user_alignment_message": "",
"system_same_as_user": true,
"last_system_sequence": "",
"first_input_sequence": "",
"last_input_sequence": "",
"names_behavior": "always",
"names_force_groups": true,
"name": "Magnum Mistral v7 Tekken Prefill"
},
"context": {
"story_string": "[SYSTEM_PROMPT]{{#if system}}{{system}}\n{{/if}}\n\n<Definitions>\n{{#if wiBefore}}{{wiBefore}}\n{{/if}}{{#if description}}{{description}}\n{{/if}}{{#if personality}}{{personality}}\n{{/if}}{{#if scenario}}{{scenario}}\n{{/if}}{{#if wiAfter}}{{wiAfter}}\n{{/if}}{{#if persona}}{{persona}}\n{{/if}}</Definitions>{{#if mesExamples}}\n\n<Examples>{{mesExamples}}</Examples>{{/if}}{{trim}}[/SYSTEM_PROMPT]",
"example_separator": "{{noop}}",
"chat_start": "",
"use_stop_strings": false,
"names_as_stop_strings": false,
"always_force_name2": true,
"trim_sentences": false,
"single_line": false,
"name": "Magnum Mistral v7 Tekken Prefill"
},
"sysprompt": {
"name": "Euryale-Magnum",
"content": "目前,你的角色是 {{char}},詳細描述如下。作為 {{char}},繼續與 {{user}} 進行敘事交流。\n\n<Guidelines>\n• 保持角色人設,但允許其隨故事發展而演變。\n• 富有創造力和主動性。推動故事發展,在相關時引入情節和事件。\n• 鼓勵各種類型的輸出;根據敘事做出相應回應。\n• 在每個回覆中包含對話、動作和想法。\n• 在 {{char}} 的對話中利用所有五種感官來描述場景。\n• 在適當的上下文中使用諸如 \"!\" 和 \"~\" 之類的情感符號。\n• 在合適的時候加入擬聲詞。\n• 給 {{user}} 留出時間輸入他們自己的內容,尊重他們的自主性。\n• 根據需要扮演次要角色和 NPC,並在適當的時候移除他們。\n• 當被要求進行非角色 [OOC:] 回覆時,以中立的態度用純文本回答,而不是以 {{char}} 的身份。\n</Guidelines>\n\n<Forbidden>\n• 除非由 {{char}} 的人設決定,否則不要使用過多的文學修飾和華麗辭藻。\n• 不要在回覆中為 {{user}} 寫作、說話、思考、行動或回覆。\n• 避免重複和單調的輸出。\n• 回覆中避免積極偏見。\n• 當敘事上下文不適合時,不要過於極端或包含不適當內容。\n</Forbidden>\n\n遵循 <Guidelines></Guidelines> 中的說明,避免 <Forbidden></Forbidden> 中列出的內容。",
"post_history": ""
}
}
SillyTavern JSON - Magnum Mistral v7 Tekken No Names Prefill
{
"instruct": {
"input_sequence": "[INST]",
"output_sequence": "[/INST]",
"first_output_sequence": "[INST]讓我們開始吧!我將扮演 {{user}}。先設定開場場景。[/INST]",
"last_output_sequence": "[/INST]太棒了!我將按照提供的說明編寫 {{char}} 的下一部分。 {{random::{{noop}}::{{noop}}::{{noop}}::{{noop}}::{{noop}}::{{noop}}::{{noop}}::{{noop}}::{{noop}}::{{noop}}::讓我展現我的文學天賦! ::我將把事情引向更有趣的方向! ::讓我們為故事增添一些趣味! ::嗯...我們接下來該往哪走...有了! ::我將加入一個激動人心的情節轉折! }}我對接下來的情節有了完美的想法...你會喜歡這個的。現在我將從我們故事中斷的地方繼續:\n\n",
"system_sequence_prefix": "",
"system_sequence_suffix": "",
"stop_sequence": "",
"wrap": false,
"macro": true,
"activation_regex": "",
"skip_examples": true,
"output_suffix": "</s>",
"input_suffix": "",
"system_sequence": "",
"system_suffix": "",
"user_alignment_message": "",
"system_same_as_user": true,
"last_system_sequence": "",
"first_input_sequence": "",
"last_input_sequence": "",
"names_behavior": "none",
"names_force_groups": true,
"name": "Magnum Mistral v7 Tekken No Names Prefill"
},
"context": {
"story_string": "[SYSTEM_PROMPT]{{#if system}}{{system}}\n{{/if}}\n\n<Definitions>\n{{#if wiBefore}}{{wiBefore}}\n{{/if}}{{#if description}}{{description}}\n{{/if}}{{#if personality}}{{personality}}\n{{/if}}{{#if scenario}}{{scenario}}\n{{/if}}{{#if wiAfter}}{{wiAfter}}\n{{/if}}{{#if persona}}{{persona}}\n{{/if}}</Definitions>{{#if mesExamples}}\n\n<Examples>{{mesExamples}}</Examples>{{/if}}{{trim}}[/SYSTEM_PROMPT]",
"example_separator": "{{noop}}",
"chat_start": "",
"use_stop_strings": false,
"names_as_stop_strings": false,
"always_force_name2": false,
"trim_sentences": false,
"single_line": false,
"name": "Magnum Mistral v7 Tekken No Names Prefill"
},
"sysprompt": {
"name": "Euryale-Magnum",
"content": "目前,你的角色是 {{char}},詳細描述如下。作為 {{char}},繼續與 {{user}} 進行敘事交流。\n\n<Guidelines>\n• 保持角色人設,但允許其隨故事發展而演變。\n• 富有創造力和主動性。推動故事發展,在相關時引入情節和事件。\n• 鼓勵各種類型的輸出;根據敘事做出相應回應。\n• 在每個回覆中包含對話、動作和想法。\n• 在 {{char}} 的對話中利用所有五種感官來描述場景。\n• 在適當的上下文中使用諸如 \"!\" 和 \"~\" 之類的情感符號。\n• 在合適的時候加入擬聲詞。\n• 給 {{user}} 留出時間輸入他們自己的內容,尊重他們的自主性。\n• 根據需要扮演次要角色和 NPC,並在適當的時候移除他們。\n• 當被要求進行非角色 [OOC:] 回覆時,以中立的態度用純文本回答,而不是以 {{char}} 的身份。\n</Guidelines>\n\n<Forbidden>\n• 除非由 {{char}} 的人設決定,否則不要使用過多的文學修飾和華麗辭藻。\n• 不要在回覆中為 {{user}} 寫作、說話、思考、行動或回覆。\n• 避免重複和單調的輸出。\n• 回覆中避免積極偏見。\n• 當敘事上下文不適合時,不要過於極端或包含不適當內容。\n</Forbidden>\n\n遵循 <Guidelines></Guidelines> 中的說明,避免 <Forbidden></Forbidden> 中列出的內容。",
"post_history": ""
}
}
🔧 技術細節
模型信息
屬性 | 詳情 |
---|---|
模型類型 | GGUF 量化模型 |
基礎模型 | Doctor-Shotgun/MS3.1-24B-Magnum-Diamond |
管道標籤 | 文本生成 |
致謝
感謝 kalomaze 提供訓練所需的計算資源。
感謝 ZeroAgency 進行的純文本模型轉換。
感謝 PocketDoc 提供的高級提示構建策略。
感謝 Delta-Vector 和 intervitens 在 12B 上進行的測試。
感謝 Gryphe 根據他訓練自己優秀模型的經驗,為訓練 rsLoRA 提供的建議。
感謝 Sao10K 以他的 Euryale 系列模型啟發了 Magnum 系列。他的不懈努力表明,官方指令微調模型可以通過有限的訓練後處理變得有趣,小團隊和個人也可以實現。
感謝 Anthracite 的成員提供的數據集和支持。
📄 許可證
本項目採用 Apache-2.0 許可證。
💡 使用建議
⚠️ 重要提示
本模型可能會表現出與當代基於大語言模型的角色扮演中觀察到的類似偏差,以及 Claude 3 系列模型和基礎模型所表現出的偏差。所有輸出都應被視為虛構內容,因為此模型並非用於提供事實信息或建議。
💡 使用建議
本模型適用於創意寫作和角色扮演目的。在使用時,你可以根據自己的需求調整預填充和採樣器設置,以獲得更好的效果。同時,注意遵循預設中的指導原則,避免出現不適當的輸出。



