Qwen_Qwen3 - 0.6B - GGUFオープンソースモデル - 互換性を持った対応と無料でのデプロイ・使用がサポートされています

ホーム

Qwen Qwen3 0.6B GGUF

tensorblockによって開発

このリポジトリにはQwen/Qwen3-0.6BのGGUFフォーマットモデルファイルが含まれており、TensorBlock提供のマシンで量子化処理され、llama.cppと互換性があります。

大規模言語モデルオープンソースライセンス:Apache-2.0 #軽量テキスト生成 #多言語サポート #低リソース展開

ダウンロード数 905

リリース時間 : 4/28/2025

モデル概要

Qwen3-0.6Bは0.6Bパラメータ規模のオープンソース大規模言語モデルで、テキスト生成タスクをサポートし、GGUFフォーマットで量子化処理されており、ローカル展開と推論に適しています。

モデル特徴

多様な量子化オプション

Q2_KからQ8_0まで12種類の異なる量子化レベルのモデルファイルを提供し、様々なシナリオでの性能と精度のニーズに対応

llama.cpp互換

すべてのモデルファイルはb5214コミットバージョンのllama.cppと互換性があり、ローカル展開と使用が容易

軽量展開

最小量子化バージョンはわずか0.347GBのストレージスペースで済み、リソース制約環境に適しています

モデル能力

テキスト生成

対話システム

コンテンツ作成

使用事例

対話システム

インテリジェントカスタマーサポート

軽量カスタマーサービスロボットとして展開

基本的なQ&Aと問題解決能力を提供

コンテンツ作成

テキスト補助作成

記事の下書き生成やクリエイティブライティングの補助に使用

初期コンテンツフレームワークの迅速な生成を支援

🚀 Qwen/Qwen3-0.6B - GGUF

このリポジトリには、Qwen/Qwen3-0.6B のGGUF形式のモデルファイルが含まれています。これらのファイルは、TensorBlock が提供するマシンを使用して量子化されており、コミット b5214 以降の llama.cpp と互換性があります。

フィードバックとサポート: TensorBlockの Twitter/X、Telegramグループおよび Discordサーバー

✨ 主な機能

当社のプロジェクト

プロジェクト名	説明
Awesome MCP Servers	Model Context Protocol (MCP) サーバーの包括的なコレクションです。
TensorBlock Studio	軽量で、オープンかつ拡張可能なマルチLLMインタラクションスタジオです。

Awesome MCP Servers	TensorBlock Studio

Model Context Protocol (MCP) サーバーの包括的なコレクション。	軽量で、オープンかつ拡張可能なマルチLLMインタラクションスタジオ。
👉 成果を見る 👉	👉 成果を見る 👉

プロンプトテンプレート

<|im_start|>system
{system_prompt}<|im_end|>
<|im_start|>user
{prompt}<|im_end|>
<|im_start|>assistant

モデルファイル仕様

ファイル名	量子化タイプ	ファイルサイズ	説明
Qwen3-0.6B-Q2_K.gguf	Q2_K	0.347 GB	最も小さいが、品質が大幅に低下するため、ほとんどの用途では推奨されません。
Qwen3-0.6B-Q3_K_S.gguf	Q3_K_S	0.390 GB	非常に小さいが、品質が大きく低下します。
Qwen3-0.6B-Q3_K_M.gguf	Q3_K_M	0.414 GB	非常に小さいが、品質が大きく低下します。
Qwen3-0.6B-Q3_K_L.gguf	Q3_K_L	0.435 GB	小さいが、品質が大幅に低下します。
Qwen3-0.6B-Q4_0.gguf	Q4_0	0.469 GB	レガシーな形式で、小さいが、品質が非常に大きく低下するため、Q3_K_M を使用することを推奨します。
Qwen3-0.6B-Q4_K_S.gguf	Q4_K_S	0.471 GB	小さいが、品質の低下が大きいです。
Qwen3-0.6B-Q4_K_M.gguf	Q4_K_M	0.484 GB	中程度のサイズで、品質がバランスしているため、推奨されます。
Qwen3-0.6B-Q5_0.gguf	Q5_0	0.544 GB	レガシーな形式で、中程度のサイズで、品質がバランスしていますが、Q4_K_M を使用することを推奨します。
Qwen3-0.6B-Q5_K_S.gguf	Q5_K_S	0.544 GB	大きいが、品質の低下が少ないため、推奨されます。
Qwen3-0.6B-Q5_K_M.gguf	Q5_K_M	0.551 GB	大きいが、品質の低下が非常に少ないため、推奨されます。
Qwen3-0.6B-Q6_K.gguf	Q6_K	0.623 GB	非常に大きいが、品質の低下が極めて少ないです。
Qwen3-0.6B-Q8_0.gguf	Q8_0	0.805 GB	非常に大きいが、品質の低下が極めて少ないが、推奨されません。

📦 インストール

コマンドラインでのダウンロード

まず、Huggingface Clientをインストールします。

pip install -U "huggingface_hub[cli]"

次に、個々のモデルファイルをローカルディレクトリにダウンロードします。

huggingface-cli download tensorblock/Qwen_Qwen3-0.6B-GGUF --include "Qwen3-0.6B-Q2_K.gguf" --local-dir MY_LOCAL_DIR

パターンを指定して複数のモデルファイルをダウンロードする場合は、以下のように試すことができます。

huggingface-cli download tensorblock/Qwen_Qwen3-0.6B-GGUF --local-dir MY_LOCAL_DIR --local-dir-use-symlinks False --include='*Q4_K*gguf'

📄 ライセンス

このプロジェクトは Apache-2.0 ライセンスの下で提供されています。

おすすめAIモデル

Llama 3 Typhoon V1.5x 8b Instruct

タイ語専用に設計された80億パラメータの命令モデルで、GPT-3.5-turboに匹敵する性能を持ち、アプリケーションシナリオ、検索拡張生成、制限付き生成、推論タスクを最適化

Cadet-TinyはSODAデータセットでトレーニングされた超小型対話モデルで、エッジデバイス推論向けに設計されており、体積はCosmo-3Bモデルの約2％です。

Roberta Base Chinese Extractive Qa

RoBERTaアーキテクチャに基づく中国語抽出型QAモデルで、与えられたテキストから回答を抽出するタスクに適しています。

質問応答システム中国語

uer

2,694

未来を切り開く、あなたのAIソリューション知識ベース

English 简体中文繁體中文にほんご