Qwen3-0.6B-GGUFオープンソース大規模言語モデル - 多言語対応、推論と指示遵守能力が強い

Qwen3 0.6B GGUF

prithivMLmodsによって開発

Qwen3は通義千問シリーズの大規模言語モデルの最新バージョンで、一連の高密度型および混合専門家（MoE）モデルを提供しています。大規模なトレーニングに基づき、Qwen3は推論能力、命令追従、エージェント機能、多言語サポートにおいて画期的な進歩を実現しました。

ダウンロード数 290

リリース時間 : 5/13/2025

モデル概要

Qwen3-0.6B-GGUFはQwen3-0.6BモデルのGGUF形式量子化バージョンで、テキスト生成タスクに適しており、複数の量子化精度オプションをサポートしています。

多精度量子化サポート

FP32からQ2_Kまでの複数の量子化バージョンを提供し、さまざまなハードウェアと性能要件に対応します。

効率的な推論

量子化技術により効率的な推論速度を実現し、特にQ4_K_SとQ4_K_Mバージョンの使用を推奨します。

混合専門家アーキテクチャ

混合専門家（MoE）モデルアーキテクチャを採用し、モデルの性能と効率を向上させます。

テキスト生成

命令追従

多言語サポート

テキスト生成

コンテンツ作成

記事、ストーリー、ニュースなどのコンテンツを生成します。

対話システム

マルチターン対話をサポートするインテリジェントチャットボットを構築します。

エージェント機能

タスク自動化

命令を通じてエージェントに特定のタスクを完了させます。

Qwen3はQwenシリーズの最新世代の大規模言語モデルで、高密度モデルとエキスパート混合（MoE）モデルの包括的なセットを提供します。広範なトレーニングに基づいて構築されたQwen3は、推論、命令追従、エージェント機能、および多言語サポートにおいて画期的な進歩をもたらします。

ファイル名	サイズ	量子化	形式	説明
`Qwen3_0.6B.F32.gguf`	2.39 GB	FP32	GGUF	全精度（float32）バージョン
`Qwen3_0.6B.BF16.gguf`	1.2 GB	BF16	GGUF	BFloat16精度バージョン
`Qwen3_0.6B.F16.gguf`	1.2 GB	FP16	GGUF	Float16精度バージョン
`Qwen3_0.6B.Q3_K_M.gguf`	347 MB	Q3_K_M	GGUF	3ビット量子化（K Mバリアント）
`Qwen3_0.6B.Q3_K_S.gguf`	323 MB	Q3_K_S	GGUF	3ビット量子化（K Sバリアント）
`Qwen3_0.6B.Q4_K_M.gguf`	397 MB	Q4_K_M	GGUF	4ビット量子化（K Mバリアント）
`Qwen3_0.6B.Q4_K_S.gguf`	383 MB	Q4_K_S	GGUF	4ビット量子化（K Sバリアント）
`Qwen3_0.6B.Q5_K_M.gguf`	444 MB	Q5_K_M	GGUF	5ビット量子化（K Mバリアント）
`Qwen3_0.6B.Q8_0.gguf`	639 MB	Q8_0	GGUF	8ビット量子化
`.gitattributes`	2.04 kB	—	—	Git LFSトラッキングファイル
`config.json`	31 B	—	—	設定プレースホルダー
`README.md`	3.53 kB	—	—	モデルドキュメント

（サイズでソートされており、必ずしも品質を表しているわけではありません。IQ量子化モデルは、同じサイズの非IQ量子化モデルよりも優れていることが多いです）

リンク	タイプ	サイズ/GB	注意事項
GGUF	Q2_K	0.4
GGUF	Q3_K_S	0.5
GGUF	Q3_K_M	0.5	低品質
GGUF	Q3_K_L	0.5
GGUF	IQ4_XS	0.6
GGUF	Q4_K_S	0.6	高速、推奨
GGUF	Q4_K_M	0.6	高速、推奨
GGUF	Q5_K_S	0.6
GGUF	Q5_K_M	0.7
GGUF	Q6_K	0.7	非常に良い品質
GGUF	Q8_0	0.9	高速、最高品質
GGUF	f16	1.6	16 bpw、過剰仕様