AIbase
JA
ホーム
Qwen3 4B GGUF
Q

Qwen3 4B GGUF

ZeroWwによって開発
量子化されたテキスト生成モデルで、出力と埋め込みテンソルはf16形式、その他のテンソルはq5_kまたはq6_k量子化されており、体積が小さく純粋なf16バージョンと同等の性能を維持しています。
大規模言語モデル 英語オープンソースライセンス:MIT#量子化テキスト生成#f16埋め込み最適化#低ストレージ要件
ダウンロード数 495
リリース時間 : 4/29/2025

モデル概要

このモデルは量子化バージョンのテキスト生成モデルで、テンソル形式を最適化することでモデルの体積を削減しつつ、オリジナルバージョンと同等の性能を維持しています。

モデル特徴

効率的な量子化
出力と埋め込みテンソルはf16形式、その他のテンソルはq5_kまたはq6_k量子化されており、モデルの体積を大幅に削減します。
性能維持
量子化後のモデル性能は純粋なf16バージョンと同等で、明らかな性能低下はありません。
体積最適化
f16.q6とf16.q5の体積は標準的なq8_0量子化よりも小さく、リソースが限られた環境により適しています。

モデル能力

テキスト生成

使用事例

テキスト生成
コンテンツ作成
記事、ストーリー、その他のテキストコンテンツの生成に使用します。
対話システム
チャットボットや対話アシスタントの構築に使用します。
おすすめAIモデル
Llama 3 Typhoon V1.5x 8b Instruct
タイ語専用に設計された80億パラメータの命令モデルで、GPT-3.5-turboに匹敵する性能を持ち、アプリケーションシナリオ、検索拡張生成、制限付き生成、推論タスクを最適化
大規模言語モデル Transformers 複数言語対応
L
scb10x
3,269
16
Cadet Tiny
Openrail
Cadet-TinyはSODAデータセットでトレーニングされた超小型対話モデルで、エッジデバイス推論向けに設計されており、体積はCosmo-3Bモデルの約2％です。
対話システム Transformers 英語
C
ToddGoldfarb
2,691
6
Roberta Base Chinese Extractive Qa
RoBERTaアーキテクチャに基づく中国語抽出型QAモデルで、与えられたテキストから回答を抽出するタスクに適しています。
質問応答システム 中国語
R
uer
2,694
98
AIbase
未来を切り開く、あなたのAIソリューション知識ベース
English简体中文繁體中文にほんご
© 2025AIbase