Qwen3-1.7B-GGUFオープンソース大規模言語モデル - 無料で推論、多言語対応などの機能を実現

Qwen3 1.7B GGUF

prithivMLmodsによって開発

Qwen3は通義千問シリーズの大規模言語モデルの最新バージョンで、一連の高密度型および混合エキスパート（MoE）モデルを提供しています。大規模なトレーニングに基づき、Qwen3は推論、指示追従、エージェント能力、多言語サポートにおいて画期的な進歩を実現しました。

ダウンロード数 357

リリース時間 : 5/13/2025

モデル概要

Qwen3-1.7B-GGUFはQwen3-1.7BモデルのGGUF量子化バージョンで、テキスト生成タスクに適しており、さまざまなハードウェア要件に対応するために複数の量子化方式をサポートしています。

多様な量子化バージョン

3ビットから8ビットまでの多様な量子化バージョンを提供し、さまざまなハードウェアと性能要件に対応します。

高性能推論

推論、指示追従、エージェント能力において優れたパフォーマンスを発揮します。

多言語サポート

英語など複数の言語をサポートしています。

テキスト生成

指示追従

多言語サポート

テキスト生成

コンテンツ作成

記事、ストーリー、その他のテキストコンテンツを生成します。

対話システム

インテリジェントなチャットボットの構築に使用されます。

Qwen3は、Qwenシリーズの最新世代の大規模言語モデルで、高密度およびエキスパート混合（MoE）モデルの包括的なセットを提供します。広範なトレーニングに基づいて構築されたQwen3は、推論、命令追従、エージェント機能、および多言語サポートにおいて画期的な進歩をもたらします。

属性	詳情
モデルタイプ	Qwen3-1.7B-GGUF
ベースモデル	Qwen/Qwen3-1.7B
パイプラインタグ	テキスト生成
ライブラリ名	transformers
タグ	text-generation-inference、moe

ファイル名	サイズ	量子化	形式	説明
`Qwen3_1.7B.F32.gguf`	6.89 GB	FP32	GGUF	全精度（float32）バージョン
`Qwen3_1.7B.BF16.gguf`	3.45 GB	BF16	GGUF	BFloat16精度バージョン
`Qwen3_1.7B.F16.gguf`	3.45 GB	FP16	GGUF	Float16精度バージョン
`Qwen3_1.7B.Q3_K_M.gguf`	940 MB	Q3_K_M	GGUF	3ビット量子化（K Mバリアント）
`Qwen3_1.7B.Q3_K_S.gguf`	867 MB	Q3_K_S	GGUF	3ビット量子化（K Sバリアント）
`Qwen3_1.7B.Q4_K_M.gguf`	1.11 GB	Q4_K_M	GGUF	4ビット量子化（K Mバリアント）
`Qwen3_1.7B.Q4_K_S.gguf`	1.06 GB	Q4_K_S	GGUF	4ビット量子化（K Sバリアント）
`Qwen3_1.7B.Q5_K_M.gguf`	1.26 GB	Q5_K_M	GGUF	5ビット量子化（K Mバリアント）
`Qwen3_1.7B.Q8_0.gguf`	1.83 GB	Q8_0	GGUF	8ビット量子化
`.gitattributes`	2.04 kB	—	—	Git LFSトラッキングファイル
`config.json`	31 B	—	—	設定プレースホルダー
`README.md`	3.63 kB	—	—	モデルドキュメント

（サイズでソートされており、必ずしも品質を反映しているわけではありません。IQ量子化は、同じサイズの非IQ量子化よりも優れていることが多いです。）

リンク	タイプ	サイズ/GB	メモ
GGUF	Q2_K	0.4
GGUF	Q3_K_S	0.5
GGUF	Q3_K_M	0.5	低品質
GGUF	Q3_K_L	0.5
GGUF	IQ4_XS	0.6
GGUF	Q4_K_S	0.6	高速、推奨
GGUF	Q4_K_M	0.6	高速、推奨
GGUF	Q5_K_S	0.6
GGUF	Q5_K_M	0.7
GGUF	Q6_K	0.7	非常に高品質
GGUF	Q8_0	0.9	高速、最高品質
GGUF	f16	1.6	16 bpw、過剰