Magnum V2 12b

🚀 magnum-v2-12b模型

magnum-v2-12b模型是系列模型中的第四款，旨在复刻Claude 3系列模型（尤其是Sonnet和Opus）的文本质量。该模型基于Mistral-Nemo-Base-2407微调而来，具备强大的文本生成能力。

🚀 快速开始

此模型经过指令微调，采用ChatML格式。典型的输入示例如下：

"""<|im_start|>system
system prompt<|im_end|>
<|im_start|>user
Hi there!<|im_end|>
<|im_start|>assistant
Nice to meet you!<|im_end|>
<|im_start|>user
Can I ask a question?<|im_end|>
<|im_start|>assistant
"""

✨ 主要特性

• 语言支持丰富：支持英语、法语、德语、西班牙语、意大利语、葡萄牙语、俄语、中文和日语。
• 复刻优质文本：致力于复制Claude 3模型（Sonnet和Opus）的文本质量。
• 基于强大基础：在Mistral-Nemo-Base-2407基础上进行微调。

📦 安装指南

文档未提供安装步骤，暂不展示。

💻 使用示例

基础用法

"""<|im_start|>system
system prompt<|im_end|>
<|im_start|>user
Hi there!<|im_end|>
<|im_start|>assistant
Nice to meet you!<|im_end|>
<|im_start|>user
Can I ask a question?<|im_end|>
<|im_start|>assistant
"""

📚 详细文档

模型信息

评估结果

详细结果可查看此处。

🔧 技术细节

模型使用ChatML格式进行指令微调，训练过程中使用了8块NVIDIA H100 Tensor Core GPU进行全参数微调，训练轮次为2个epoch。

📄 许可证

本模型采用Apache-2.0许可证。

致谢

本模型是Anthracite团队共同努力的成果，感谢以下数据集的贡献：

• Stheno数据集（过滤后）
• kalomaze/Opus_Instruct_25k
• Nopm/Opus_WritingStruct
• Gryphe/Sonnet3.5-SlimOrcaDedupCleaned（约16k行子集）
• kalomaze/Opus_Instruct_3k