Qwq 32B GGUF
QwQ-32BのGGUFフォーマット量子化バージョン、ローカル展開と推論に適しています
ダウンロード数 1,312
リリース時間 : 3/5/2025
モデル概要
このリポジトリにはQwen/QwQ-32BのGGUFフォーマットモデルファイルが含まれており、TensorBlock提供のマシンで量子化され、llama.cppと互換性があります。
モデル特徴
マルチ量子化バージョン
Q2_KからQ8_0までの12種類の量子化バージョンを提供し、さまざまなハードウェアと性能要件に対応します
llama.cpp互換
b4823コミットバージョンまでのllama.cppと互換性があり、ローカル展開が容易です
チャット最適化
専用のプロンプトテンプレートを提供し、チャットインタラクション体験を最適化します
モデル能力
テキスト生成
対話インタラクション
使用事例
対話システム
インテリジェントチャットアシスタント
ローカルチャットボットを展開
コンテンツ生成
テキスト創作
様々なテキストコンテンツを生成
おすすめAIモデル
Llama 3 Typhoon V1.5x 8b Instruct
タイ語専用に設計された80億パラメータの命令モデルで、GPT-3.5-turboに匹敵する性能を持ち、アプリケーションシナリオ、検索拡張生成、制限付き生成、推論タスクを最適化
大規模言語モデル
Transformers 複数言語対応

L
scb10x
3,269
16
Cadet Tiny
Openrail
Cadet-TinyはSODAデータセットでトレーニングされた超小型対話モデルで、エッジデバイス推論向けに設計されており、体積はCosmo-3Bモデルの約2%です。
対話システム
Transformers 英語

C
ToddGoldfarb
2,691
6
Roberta Base Chinese Extractive Qa
RoBERTaアーキテクチャに基づく中国語抽出型QAモデルで、与えられたテキストから回答を抽出するタスクに適しています。
質問応答システム 中国語
R
uer
2,694
98