AIbase
JA
ホーム
Qwen3 8B GGUF
Q

Qwen3 8B GGUF

ZeroWwによって開発
ZeroWwは量子化されたテキスト生成モデルで、出力と埋め込みテンソルはf16形式を使用し、残りのテンソルはq5_kまたはq6_k形式を使用しており、体積が小さく純粋なf16と同等の性能を発揮します。
大規模言語モデル 英語オープンソースライセンス:MIT#量子化テキスト生成#f16埋め込み最適化#低ストレージ要件
ダウンロード数 236
リリース時間 : 4/29/2025

モデル概要

このモデルは主にテキスト生成タスクに使用され、量子化技術によりモデル体積を縮小しながら高性能を維持します。

モデル特徴

効率的な量子化
出力と埋め込みテンソルはf16形式を使用し、残りのテンソルはq5_kまたはq6_k形式を使用して、モデル体積を大幅に削減します。
性能維持
量子化されたモデルは純粋なf16形式と同等の性能を発揮し、明らかな性能低下はありません。
体積最適化
f16.q6およびf16.q5量子化バージョンは、標準のq8_0量子化よりも体積が小さくなっています。

モデル能力

テキスト生成

使用事例

テキスト生成
コンテンツ作成
記事、ストーリー、その他のテキストコンテンツを自動生成するために使用されます。
対話システム
チャットボットや仮想アシスタントを構築するために使用されます。
おすすめAIモデル
Llama 3 Typhoon V1.5x 8b Instruct
タイ語専用に設計された80億パラメータの命令モデルで、GPT-3.5-turboに匹敵する性能を持ち、アプリケーションシナリオ、検索拡張生成、制限付き生成、推論タスクを最適化
大規模言語モデル Transformers 複数言語対応
L
scb10x
3,269
16
Cadet Tiny
Openrail
Cadet-TinyはSODAデータセットでトレーニングされた超小型対話モデルで、エッジデバイス推論向けに設計されており、体積はCosmo-3Bモデルの約2％です。
対話システム Transformers 英語
C
ToddGoldfarb
2,691
6
Roberta Base Chinese Extractive Qa
RoBERTaアーキテクチャに基づく中国語抽出型QAモデルで、与えられたテキストから回答を抽出するタスクに適しています。
質問応答システム 中国語
R
uer
2,694
98
AIbase
未来を切り開く、あなたのAIソリューション知識ベース
English简体中文繁體中文にほんご
© 2025AIbase