Linkbricks Horizon AI Avengers V1 32B

🚀 Linkbricks Horizon - AI多语言强化语言模型

本项目是由AI专业企业Linkbricks Horizon - AI的数据科学家及代表池允成（Saxo）基于Qwen/Qwen2.5 - 32B - Instruct基础模型，使用8个H100 - 80G进行微调，打造的多语言强化语言模型。该模型在多语言处理和复杂逻辑问题应对上表现出色，可用于客户评论分析、编码写作等多个领域。

🚀 快速开始

本模型可通过Hugging Face平台进行调用，以下是一些基本信息：

• 模型库名称：transformers
• 许可证：apache - 2.0
• 基础模型：Qwen/Qwen2.5 - 32B - Instruct
• 支持语言：韩语（ko）、英语（en）、日语（jp）、中文（cn）
• 任务类型：文本生成

✨ 主要特性

• 多语言支持：基于8千万条多语言新闻和维基语料库，通过日语、韩语、中文、英语的跨学习数据以及数学和逻辑判断数据进行训练，能够处理多种语言的文本生成任务。
• 性能优异：在Open LLM Leaderboard中，32B模型于2025/02/24~排名第2。
• 功能丰富：支持Function Call和Tool Calling，可用于复杂的任务处理。
• 参数微调：约35%的参数经过CPT -> SFT -> DPO -> ORPO的训练过程，提升了模型性能。
• 应用场景广泛：适用于客户评论和社交媒体帖子的高维分析、编码、写作、数学和逻辑判断等场景。

📦 安装指南

由于文档未提供具体安装步骤，暂不展示安装指南。

💻 使用示例

文档未提供代码示例，暂不展示使用示例。

📚 详细文档

模型信息

模型训练

• 基础模型：Qwen/Qwen2.5 - 32B - Instruct
• 训练硬件：8个H100 - 80G
• 训练方式：约35%的参数经过CPT -> SFT -> DPO -> ORPO训练

模型特性

• Tokenizer：使用基础模型的Tokenizer，不进行单词扩展。
• 功能支持：支持Function Call和Tool Calling。
• 训练模式：使用Deepspeed Stage = 3、rslora和BAdam Layer Mode。
• transformers版本：4.46.3

🔧 技术细节

文档未提供具体技术细节，暂不展示技术细节。

📄 许可证

本模型使用apache - 2.0许可证。

🔗 相关链接

• Open LLM Leaderboard
• www.horizonai.ai
• www.linkbricks.com
• www.linkbricks.vc