モデル選定

6ビット量子化

# 6ビット量子化

Deepseek R1 0528 Qwen3 8B 6bit

DeepSeek-R1-0528-Qwen3-8Bモデルを基に変換された6ビット量子化バージョンで、MLXフレームワークのテキスト生成タスクに適しています。

大規模言語モデル

Devstral Small 2505 MLX 6bit

mistralaiによって開発された軽量言語モデルで、MLXフレームワークによる6ビット量子化最適化が施され、Apple Silicon向けに設計されています。

大規模言語モデル複数言語対応

lmstudio-community

Josiefied Qwen3 4B Abliterated V1 6bit

これはQwen3-4BモデルをMLXフォーマットに変換した6ビット量子化バージョンで、テキスト生成タスクに適しています。

大規模言語モデル

Dia-1.6B-6bit は Dia-1.6B を基にした 6 ビット量子化バージョンで、MLX フレームワーク向けに最適化されたテキスト読み上げモデルです。

音声合成英語

Gemma 3 27b It Qat 6bit

これはGoogle Gemma 3 27Bモデルに基づく量子化バージョンで、6ビット量子化をサポートし、画像テキストからテキストへのタスクに適しています。

画像生成テキスト

Transformers その他

Deepcogito Cogito V1 Preview Llama 70B 6bit

これはLlamaアーキテクチャに基づく70Bパラメータの大規模言語モデルで、6ビット量子化処理が施され、テキスト生成タスクに適しています。

大規模言語モデル

おすすめAIモデル

Llama 3 Typhoon V1.5x 8b Instruct

タイ語専用に設計された80億パラメータの命令モデルで、GPT-3.5-turboに匹敵する性能を持ち、アプリケーションシナリオ、検索拡張生成、制限付き生成、推論タスクを最適化

大規模言語モデル

Transformers 複数言語対応

Cadet-TinyはSODAデータセットでトレーニングされた超小型対話モデルで、エッジデバイス推論向けに設計されており、体積はCosmo-3Bモデルの約2％です。

対話システム

Transformers 英語

Roberta Base Chinese Extractive Qa

RoBERTaアーキテクチャに基づく中国語抽出型QAモデルで、与えられたテキストから回答を抽出するタスクに適しています。

質問応答システム中国語

AIbase

未来を切り開く、あなたのAIソリューション知識ベース

English 简体中文繁體中文にほんご

© 2025AIbase