Q

Qwq 32B GGUF

tensorblockによって開発
QwQ-32BのGGUFフォーマット量子化バージョン、ローカル展開と推論に適しています
ダウンロード数 1,312
リリース時間 : 3/5/2025

モデル概要

このリポジトリにはQwen/QwQ-32BのGGUFフォーマットモデルファイルが含まれており、TensorBlock提供のマシンで量子化され、llama.cppと互換性があります。

モデル特徴

マルチ量子化バージョン
Q2_KからQ8_0までの12種類の量子化バージョンを提供し、さまざまなハードウェアと性能要件に対応します
llama.cpp互換
b4823コミットバージョンまでのllama.cppと互換性があり、ローカル展開が容易です
チャット最適化
専用のプロンプトテンプレートを提供し、チャットインタラクション体験を最適化します

モデル能力

テキスト生成
対話インタラクション

使用事例

対話システム
インテリジェントチャットアシスタント
ローカルチャットボットを展開
コンテンツ生成
テキスト創作
様々なテキストコンテンツを生成
AIbase
未来を切り開く、あなたのAIソリューション知識ベース
© 2025AIbase