Linkbricks Horizon AI Japanese Superb V4 70B

🚀 Saxo/Linkbricks-Horizon-AI-Japanese-Superb-V3-70B 模型介绍

本模型是由AI专业企业Linkbricks Horizon - AI的数据科学家代表池允成（Saxo），基于Saxo/Linkbricks - Horizon - AI - Japanese - Superb - V3 - 70B基础模型，利用8个H100 - 80G进行约日语SFT->DPO处理得到的日语强化语言模型。它以3千万件日本新闻及维基语料库为基准，通过各类任务的日、韩、中、英跨语言学习数据以及数学和逻辑判断数据进行训练，具备跨语言增强处理能力，能够应对复杂的逻辑问题。

🚀 快速开始

如果你想使用该模型，可以参考以下信息：

• 模型库：transformers
• 许可证：apache - 2.0
• 基础模型：Saxo/Linkbricks-Horizon-AI-Japanese-Superb-V3-70B

✨ 主要特性

多语言支持

支持日语、韩语、中文和英语，通过跨语言学习数据进行训练，实现日、中、韩、英语言的交叉增强处理。

功能强化

• 强化了客户评论和社交帖子的高维分析能力。
• 在编码、写作、数学和逻辑判断等方面表现出色。

技术特性

• 上下文窗口：支持128k - Context Window。
• 函数调用：支持Function Call和Tool Calling。
• 训练模式：使用Deepspeed Stage = 3、rslora及BAdam Layer Mode。
• transformers版本：4.46.3

📦 训练数据

模型使用了以下多个数据集进行训练：

• Saxo/ko_cn_translation_tech_social_science_linkbricks_single_dataset
• Saxo/ko_jp_translation_tech_social_science_linkbricks_single_dataset
• Saxo/en_ko_translation_tech_science_linkbricks_single_dataset_with_prompt_text_huggingface
• Saxo/en_ko_translation_social_science_linkbricks_single_dataset_with_prompt_text_huggingface
• Saxo/ko_aspect_sentiment_sns_mall_sentiment_linkbricks_single_dataset_with_prompt_text_huggingface
• Saxo/ko_summarization_linkbricks_single_dataset_with_prompt_text_huggingface
• Saxo/OpenOrca_cleaned_kor_linkbricks_single_dataset_with_prompt_text_huggingface
• Saxo/ko_government_qa_total_linkbricks_single_dataset_with_prompt_text_huggingface_sampled
• Saxo/ko-news-corpus-1
• Saxo/ko-news-corpus-2
• Saxo/ko-news-corpus-3
• Saxo/ko-news-corpus-4
• Saxo/ko-news-corpus-5
• Saxo/ko-news-corpus-6
• Saxo/ko-news-corpus-7
• Saxo/ko-news-corpus-8
• Saxo/ko-news-corpus-9
• maywell/ko_Ultrafeedback_binarized
• youjunhyeok/ko-orca-pair-and-ultrafeedback-dpo
• lilacai/glaive-function-calling-v2-sharegpt
• kuotient/gsm8k-ko

📄 许可证

本模型使用apache - 2.0许可证。

🔗 相关链接

• Open Japanese LLM Leaderboard 🏆 2025/01/12~排名第1
• www.horizonai.ai
• www.linkbricks.com
• www.linkbricks.vc