Granite 3.2 8b Instruct GGUF

🚀 Granite-3.2-8B-Instruct-GGUF

このモデルは、思考能力を備えた80億パラメータの長文脈AIモデルで、様々なドメインのAIアシスタントに統合できます。

🚀 クイックスタート

このリポジトリには、IBM Graniteのベースモデルから様々な量子化でGGUF形式に変換されたモデルが含まれています。

ベースモデルの完全なモデルカードはこちらを参照してください: https://huggingface.co/ibm-granite/granite-3.2-8b-instruct

✨ 主な機能

モデル概要

Granite-3.2-8B-Instructは、思考能力を微調整された80億パラメータの長文脈AIモデルです。Granite-3.1-8B-Instructをベースに、許容的なライセンスのオープンソースデータセットと推論タスク用に設計された内部生成の合成データを使用してトレーニングされています。このモデルは、必要なときにのみ思考能力を適用するように制御可能です。

• 開発者: Graniteチーム、IBM
• ウェブサイト: Granite Docs
• リリース日: 2025年2月26日
• ライセンス: Apache 2.0

サポート言語

英語、ドイツ語、スペイン語、フランス語、日本語、ポルトガル語、アラビア語、チェコ語、イタリア語、韓国語、オランダ語、中国語がサポートされています。ただし、ユーザーはこれら12言語以外の言語でこのGraniteモデルを微調整することができます。

想定される用途

このモデルは、一般的な命令に従うタスクを処理するように設計されており、ビジネスアプリケーションを含む様々なドメインのAIアシスタントに統合できます。

機能

• 思考
• 要約
• テキスト分類
• テキスト抽出
• 質問応答
• 検索拡張生成 (RAG)
• コード関連タスク
• 関数呼び出しタスク
• 多言語対話ユースケース
• 長文書/会議の要約、長文書の質問応答などの長文脈タスク

📄 ライセンス

このモデルはApache 2.0ライセンスの下で提供されています。