カナナ1.5

ホーム

Kanana 1.5 2.1b Base

kakaocorpによって開発

Kanana 1.5はKananaモデルファミリーの新バージョンで、コーディング、数学、関数呼び出し能力が大幅に向上し、32Kトークンの長さをサポートし、128Kトークンまで拡張可能です。

大規模言語モデル

Transformers

複数言語対応オープンソースライセンス:Apache-2.0 #バイリンガルテキスト生成 #長文コンテキスト処理 #コード・数学機能強化

ダウンロード数 757

リリース時間 : 4/15/2025

モデル概要

Kanana 1.5は計算効率の高いバイリンガル言語モデルで、後処理プロセスを最適化し、より自然で正確な対話を実現し、複雑な現実問題や長文書の処理に適しています。

モデル特徴

強化されたコーディングと数学能力

前バージョンと比較してコーディング、数学、関数呼び出し能力が大幅に向上

長文コンテキストサポート

ネイティブで32Kトークン長をサポートし、YaRNを使用すると128Kトークンまで拡張可能

最適化された対話体験

最適化された後処理プロセスにより、より自然で正確な対話を実現

バイリンガルサポート

英語と韓国語の同時処理をサポート

モデル能力

テキスト生成

長文書処理

コード生成

数学問題解決

関数呼び出し

バイリンガル対話

使用事例

複雑問題解決

プログラミング問題解答

開発者がプログラミング問題やコードデバッグを解決するのを支援

HumanEvalスコア52.44、MBPPスコア47.00

数学問題解答

数学問題や導出を解決

GSM8Kスコア55.95

長文書処理

長文書要約

長文書の内容を処理・分析

32Kトークン原生長をサポートし、128Kトークンまで拡張可能

バイリンガルアプリケーション

英韓翻訳

英語と韓国語間の翻訳タスク

🚀 カナナ1.5-2.1Bベースモデル

Kanana 1.5はKananaモデルファミリーの新バージョンで、前バージョンに比べてコーディング、数学、関数呼び出し機能が大幅に強化されています。これにより、より複雑な実世界の問題に幅広く適用できます。この新バージョンは、ネイティブで最大32Kトークンの長さを処理でき、YaRNを使用すると最大128Kトークンまで処理可能です。これにより、モデルは長い文書や会話を扱う際にも一貫性を維持できます。さらに、Kanana 1.5は改良された事後学習プロセスにより、より自然で正確な会話を実現します。

✨ 1.5 HFモデル | 📝 1.5ブログ | 📖 技術レポート

📢 ニュース

📅2025/05/23: Kanana 1.5モデルに関するブログ記事を公開し、✨HFモデルの重みをリリースしました。
📖2025/02/27: 技術レポートと✨HFモデルの重みをリリースしました。
📝2025/01/10: Kanana Nanoモデルの開発に関するブログ記事を公開しました。
📝2024/11/14: Kananaモデルの開発に関するブログ記事（事前学習、事後学習）を公開しました。
🎥2024/11/06: Kananaモデルの開発に関するプレゼンテーション動画を公開しました。

📚 目次

カナナ1.5
- パフォーマンス
  - ベースモデル評価
  - 命令付きモデル評価
貢献者
引用
お問い合わせ

Kanana 1.5は、Kananaモデルファミリーの新しいバージョンで、前バージョンに比べてコーディング、数学、関数呼び出し機能が大幅に向上しています。これにより、より複雑な実世界の問題に適用できるようになりまし。この新バージョンは、ネイティブで最大32Kトークンの長さを処理でき、YaRNを使用すると最大128Kトークンまで処理できます。これにより、モデルは長い文書や会話を扱う際にも一貫性を維持できます。さらに、Kanana 1.5は改良された事後学習プロセスにより、より自然で正確な会話を提供します。

⚠️ 重要提示

事前学習データと事後学習データのどちらにも、Kakaoのユーザーデータは含まれていません。

パフォーマンス

ベースモデル評価

モデル	MMLU	KMMLU	HAERAE	HumanEval	MBPP	GSM8K
Kanana-1.5-2.1B	56.30	45.10	77.46	52.44	47.00	55.95
Kanana-Nano-2.1B	54.83	44.80	77.09	31.10	46.20	46.32

命令付きモデル評価

モデル	MT-Bench	KoMT-Bench	IFEval	HumanEval+	MBPP+	GSM8K (0-shot)	MATH	MMLU (0-shot, CoT)	KMMLU (0-shot, CoT)	FunctionChatBench
Kanana-1.5-2.1B*	7.01	6.54	68.61	68.90	65.08	81.43	60.62	53.87	32.93	53.70
Kanana-Nano-2.1B	6.40	5.90	71.97	63.41	62.43	72.32	29.26	52.48	38.51	26.10

⚠️ 重要提示

* Apache 2.0でリリースされたモデルは、他のモデルと比較して最新バージョンで学習されています。

貢献者

言語モデル学習: Yunju Bak, Doohae Jung, Boseop Kim, Nayeon Kim, Hojin Lee, Jaesun Park, Minho Ryu
言語モデルアライメント: Jiyeon Ham, Seungjae Jung, Hyunho Kim, Hyunwoong Ko, Changmin Lee, Daniel Wontae Nam
AIエンジニアリング: Youmin Kim, Hyeongju Kim

引用

@misc{kananallmteam2025kananacomputeefficientbilinguallanguage,
      title={Kanana: Compute-efficient Bilingual Language Models}, 
      author={Kanana LLM Team and Yunju Bak and Hojin Lee and Minho Ryu and Jiyeon Ham and Seungjae Jung and Daniel Wontae Nam and Taegyeong Eo and Donghun Lee and Doohae Jung and Boseop Kim and Nayeon Kim and Jaesun Park and Hyunho Kim and Hyunwoong Ko and Changmin Lee and Kyoung-Woon On and Seulye Baeg and Junrae Cho and Sunghee Jung and Jieun Kang and EungGyun Kim and Eunhwa Kim and Byeongil Ko and Daniel Lee and Minchul Lee and Miok Lee and Shinbok Lee and Gaeun Seo},
      year={2025},
      eprint={2502.18934},
      archivePrefix={arXiv},
      primaryClass={cs.CL},
      url={https://arxiv.org/abs/2502.18934}, 
}