Q

Qwen3 30B A3B Gptq 8bit

btbtyler09によって開発
Qwen3 30B A3BはGPTQメソッドを用いて8ビット量子化処理を施した大規模言語モデルで、効率的な推論シナリオに適しています。
ダウンロード数 301
リリース時間 : 5/2/2025

モデル概要

このモデルはQwen3シリーズの30Bパラメータバージョンで、8ビット量子化処理を経ており、性能を維持しながら計算リソース要件を低減することを目的としており、テキスト生成などのタスクに適しています。

モデル特徴

8ビット量子化
GPTQメソッドを用いた8ビット量子化により、モデルサイズとメモリ要件を大幅に低減
効率的な推論
量子化後のモデルはコンシューマーグレードのハードウェアで動作可能で、推論効率を向上
グループ量子化
グループサイズ32のグループ量子化技術を使用し、量子化精度と性能のバランスを実現

モデル能力

テキスト生成
自然言語理解
対話システム

使用事例

コンテンツ生成
クリエイティブライティング
ストーリーや詩などのクリエイティブなテキストコンテンツを生成
インテリジェントアシスタント
対話システム
チャットボットや仮想アシスタントを構築
AIbase
未来を切り開く、あなたのAIソリューション知識ベース
© 2025AIbase