Linkbricks Horizon AI Avengers V1 32B

🚀 Linkbricks Horizon - AI多語言強化語言模型

本項目是由AI專業企業Linkbricks Horizon - AI的數據科學家及代表池允成（Saxo）基於Qwen/Qwen2.5 - 32B - Instruct基礎模型，使用8個H100 - 80G進行微調，打造的多語言強化語言模型。該模型在多語言處理和複雜邏輯問題應對上表現出色，可用於客戶評論分析、編碼寫作等多個領域。

🚀 快速開始

本模型可通過Hugging Face平臺進行調用，以下是一些基本信息：

• 模型庫名稱：transformers
• 許可證：apache - 2.0
• 基礎模型：Qwen/Qwen2.5 - 32B - Instruct
• 支持語言：韓語（ko）、英語（en）、日語（jp）、中文（cn）
• 任務類型：文本生成

✨ 主要特性

• 多語言支持：基於8千萬條多語言新聞和維基語料庫，通過日語、韓語、中文、英語的跨學習數據以及數學和邏輯判斷數據進行訓練，能夠處理多種語言的文本生成任務。
• 性能優異：在Open LLM Leaderboard中，32B模型於2025/02/24~排名第2。
• 功能豐富：支持Function Call和Tool Calling，可用於複雜的任務處理。
• 參數微調：約35%的參數經過CPT -> SFT -> DPO -> ORPO的訓練過程，提升了模型性能。
• 應用場景廣泛：適用於客戶評論和社交媒體帖子的高維分析、編碼、寫作、數學和邏輯判斷等場景。

📦 安裝指南

由於文檔未提供具體安裝步驟，暫不展示安裝指南。

💻 使用示例

文檔未提供代碼示例，暫不展示使用示例。

📚 詳細文檔

模型信息

模型訓練

• 基礎模型：Qwen/Qwen2.5 - 32B - Instruct
• 訓練硬件：8個H100 - 80G
• 訓練方式：約35%的參數經過CPT -> SFT -> DPO -> ORPO訓練

模型特性

• Tokenizer：使用基礎模型的Tokenizer，不進行單詞擴展。
• 功能支持：支持Function Call和Tool Calling。
• 訓練模式：使用Deepspeed Stage = 3、rslora和BAdam Layer Mode。
• transformers版本：4.46.3

🔧 技術細節

文檔未提供具體技術細節，暫不展示技術細節。

📄 許可證

本模型使用apache - 2.0許可證。

🔗 相關鏈接

• Open LLM Leaderboard
• www.horizonai.ai
• www.linkbricks.com
• www.linkbricks.vc