AIbase
JA
モデル選定
タグ
量子化推論最適化

# 量子化推論最適化

Openbuddy Qwq 32b V25.2q 200k
Apache-2.0
量子化推論能力を強化するために最適化された多言語チャットボットで、8言語をサポートし、Qwen/QwQ-32Bモデルに基づいて開発されています
大規模言語モデル 複数言語対応
O
OpenBuddy
41
3
Gemma 3 4b It Gguf
Gemma 3はGoogleが開発した軽量オープンソースのマルチモーダルモデルで、画像とテキスト入力をサポートし、テキスト出力を生成します。
画像生成テキスト
G
Mungert
4,593
9
Gemma 3 4b It Q8 0 GGUF
これはGoogle Gemma 3BモデルのGGUF量子化バージョンで、ローカルデプロイと推論に適しています。
大規模言語モデル
G
NikolayKozloff
56
2
Deepseek R1 ReDistill Qwen 7B V1.1 Q8 0 GGUF
MIT
このモデルはDeepSeek-R1-ReDistill-Qwen-7B-v1.1を変換したGGUF形式モデルで、テキスト生成タスクに適しています。
大規模言語モデル
D
NikolayKozloff
44
2
Mythomax L2 13b Q4 K M GGUF
その他
MythoMax L2 13bはQ4_K_M量子化バージョンに基づく大規模言語モデルで、テキスト生成タスクに適しています。
大規模言語モデル 英語
M
Clevyby
1,716
2
34b Beta
Gpl-3.0
34Bパラメータ規模の大規模言語モデルβテスト版、chatmlプロンプトフォーマットを採用、現在のバージョンには精度問題があるため使用制限に注意
大規模言語モデル Transformers
3
CausalLM
77
63
おすすめAIモデル
Llama 3 Typhoon V1.5x 8b Instruct
タイ語専用に設計された80億パラメータの命令モデルで、GPT-3.5-turboに匹敵する性能を持ち、アプリケーションシナリオ、検索拡張生成、制限付き生成、推論タスクを最適化
大規模言語モデル Transformers 複数言語対応
L
scb10x
3,269
16
Cadet Tiny
Openrail
Cadet-TinyはSODAデータセットでトレーニングされた超小型対話モデルで、エッジデバイス推論向けに設計されており、体積はCosmo-3Bモデルの約2％です。
対話システム Transformers 英語
C
ToddGoldfarb
2,691
6
Roberta Base Chinese Extractive Qa
RoBERTaアーキテクチャに基づく中国語抽出型QAモデルで、与えられたテキストから回答を抽出するタスクに適しています。
質問応答システム 中国語
R
uer
2,694
98
AIbase
未来を切り開く、あなたのAIソリューション知識ベース
English简体中文繁體中文にほんご
© 2025AIbase