Gemma 3 4b It GGUF
Gemma 3BモデルのGGUF量子化バージョン、ローカルテキスト生成タスクに適しています
ダウンロード数 358.91k
リリース時間 : 3/12/2025
モデル概要
このモデルはgoogle/gemma-3-4b-itのGGUFフォーマット量子化バージョンで、複数の量子化レベル(2-8ビット)をサポートし、ローカルデプロイのテキスト生成アプリケーションに適しています
モデル特徴
マルチレベル量子化サポート
2ビットから8ビットまでの複数の量子化レベルを提供し、モデルサイズとパフォーマンスのバランスを取ります
GGUFフォーマット
最新のGGUFフォーマットを採用し、旧版GGMLに代わり、より良い互換性と機能サポートを提供します
ローカルデプロイ
ローカル実行に最適化されており、GGUFをサポートする様々なクライアントやライブラリで使用可能です
モデル能力
テキスト生成
ローカル推論
使用事例
ローカルアプリケーション
個人用ライティングアシスタント
ローカルデバイスで動作する個人用ライティング支援ツール
オフラインチャットボット
インターネット接続不要のローカルチャットアプリケーション
おすすめAIモデル
Llama 3 Typhoon V1.5x 8b Instruct
タイ語専用に設計された80億パラメータの命令モデルで、GPT-3.5-turboに匹敵する性能を持ち、アプリケーションシナリオ、検索拡張生成、制限付き生成、推論タスクを最適化
大規模言語モデル
Transformers 複数言語対応

L
scb10x
3,269
16
Cadet Tiny
Openrail
Cadet-TinyはSODAデータセットでトレーニングされた超小型対話モデルで、エッジデバイス推論向けに設計されており、体積はCosmo-3Bモデルの約2%です。
対話システム
Transformers 英語

C
ToddGoldfarb
2,691
6
Roberta Base Chinese Extractive Qa
RoBERTaアーキテクチャに基づく中国語抽出型QAモデルで、与えられたテキストから回答を抽出するタスクに適しています。
質問応答システム 中国語
R
uer
2,694
98