Qwen3 - 4B - GGUFオープンソース大規模言語モデル - 無料でデプロイ可能、推論能力と多言語対応能力に優れています

Qwen3 4B GGUF

prithivMLmodsによって開発

Qwen3は通義千問シリーズの最新世代大規模言語モデルで、完全な密モデルと混合エキスパート（MoE）モデルの組み合わせを提供します。大規模なトレーニングに基づき、Qwen3は推論能力、命令追従、エージェント機能、多言語サポートにおいて画期的な進歩を実現しました。

ダウンロード数 829

リリース時間 : 5/13/2025

モデル概要

Qwen3-4BはQwen3アーキテクチャに基づく4Bパラメータ規模の大規模言語モデルで、テキスト生成タスクをサポートし、さまざまなハードウェアニーズに対応するため複数の量子化バージョンを提供します。

混合エキスパートモデル

完全な密モデルと混合エキスパート（MoE）モデルの組み合わせを提供し、推論効率を最適化します。

多精度サポート

FP32から3ビット量子化まで、さまざまな精度バージョンを提供し、異なるハードウェアと性能ニーズに対応します。

高性能推論

推論能力、命令追従、エージェント機能において画期的な進歩を実現しました。

テキスト生成

命令追従

エージェント機能

多言語サポート

自然言語処理

テキスト生成

一貫性があり論理的なテキスト内容を生成します。

インテリジェントダイアログ

マルチターンインタラクションをサポートするインテリジェントダイアログシステムを構築します。

Qwen3はQwenシリーズの最新世代の大規模言語モデルで、高密度およびエキスパート混合（MoE）モデルを提供しています。広範なトレーニングを基に構築され、推論、命令追従、エージェント機能、および多言語サポートにおいて画期的な進歩をもたらします。

ファイル名	サイズ	量子化	形式	説明
`Qwen3_4B.F32.gguf`	16.1 GB	FP32	GGUF	全精度（float32）バージョン
`Qwen3_4B.BF16.gguf`	8.05 GB	BF16	GGUF	BFloat16精度バージョン
`Qwen3_4B.F16.gguf`	8.05 GB	FP16	GGUF	Float16精度バージョン
`Qwen3_4B.Q3_K_M.gguf`	2.08 GB	Q3_K_M	GGUF	3ビット量子化（K Mバリアント）
`Qwen3_4B.Q3_K_S.gguf`	1.89 GB	Q3_K_S	GGUF	3ビット量子化（K Sバリアント）
`Qwen3_4B.Q4_K_M.gguf`	2.5 GB	Q4_K_M	GGUF	4ビット量子化（K Mバリアント）
`Qwen3_4B.Q4_K_S.gguf`	2.38 GB	Q4_K_S	GGUF	4ビット量子化（K Sバリアント）
`Qwen3_4B.Q5_K_M.gguf`	2.89 GB	Q5_K_M	GGUF	5ビット量子化（K Mバリアント）
`Qwen3_4B.Q8_0.gguf`	4.28 GB	Q8_0	GGUF	8ビット量子化
`.gitattributes`	2.02 kB	—	—	Git LFS追跡ファイル
`config.json`	31 B	—	—	設定プレースホルダー
`README.md`	3.6 kB	—	—	モデルドキュメント

（サイズでソートされており、必ずしも品質を表しているわけではありません。IQ量子化は同じサイズの非IQ量子化よりも優れていることが多いです）

リンク	タイプ	サイズ/GB	注意事項
GGUF	Q2_K	0.4
GGUF	Q3_K_S	0.5
GGUF	Q3_K_M	0.5	低品質
GGUF	Q3_K_L	0.5
GGUF	IQ4_XS	0.6
GGUF	Q4_K_S	0.6	高速、推奨
GGUF	Q4_K_M	0.6	高速、推奨
GGUF	Q5_K_S	0.6
GGUF	Q5_K_M	0.7
GGUF	Q6_K	0.7	非常に高品質
GGUF	Q8_0	0.9	高速、最高品質
GGUF	f16	1.6	16 bpw、過剰