Granite 3.2 2b Instruct GGUF

🚀 Granite-3.2-2B-Instruct-GGUF

このモデルは、IBMのGraniteベースモデルから様々な量子化でGGUF形式に変換されたモデルを含んでいます。思考能力に特化した長文コンテキスト対応のAIモデルです。

🚀 クイックスタート

このリポジトリには、IBMのGraniteベースモデルから様々な量子化でGGUF形式に変換されたモデルが含まれています。

ベースモデルの完全なモデルカードはこちらを参照してください： https://huggingface.co/ibm-granite/granite-3.2-2b-instruct

✨ 主な機能

モデル概要

Granite-3.2-2B-Instructは、20億パラメータの長文コンテキスト対応のAIモデルで、思考能力を強化するためにファインチューニングされています。Granite-3.1-2B-Instructをベースに、許容的なライセンスのオープンソースデータセットと推論タスク用に内部で生成された合成データの混合を使用してトレーニングされています。このモデルは、思考能力を必要なときにのみ適用するように制御可能です。

• 開発者: Graniteチーム、IBM
• ウェブサイト: Granite Docs
• リリース日: 2025年2月26日
• ライセンス: Apache 2.0

サポート言語

英語、ドイツ語、スペイン語、フランス語、日本語、ポルトガル語、アラビア語、チェコ語、イタリア語、韓国語、オランダ語、および中国語がサポートされています。ただし、ユーザーはこれら12言語以外の言語でこのGraniteモデルをファインチューニングすることができます。

想定用途

このモデルは、一般的な命令に従うタスクを処理するように設計されており、ビジネスアプリケーションを含むさまざまなドメインのAIアシスタントに統合することができます。

機能

• 思考
• 要約
• テキスト分類
• テキスト抽出
• 質問応答
• 検索拡張生成 (RAG)
• コード関連タスク
• 関数呼び出しタスク
• 多言語対話ユースケース
• 長文ドキュメント/会議の要約、長文ドキュメントの質問応答などの長文コンテキストタスク

📄 ライセンス

このモデルはApache 2.0ライセンスの下で提供されています。