モデル選定

3ビット量子化

# 3ビット量子化

Devstral Small 2505 3bit

これはmistralai/Devstral-Small-2505モデルを変換した3ビット量子化バージョンで、MLXフレームワークに適しており、多言語テキスト生成タスクをサポートします。

大規模言語モデル複数言語対応

Qwen3 235B A22B 3bit DWQ

これはQwen/Qwen3-235B-A22Bを基に変換された3ビット深度量子化モデルで、テキスト生成タスクに適しています。

大規模言語モデル

Dia-1.6B-3bit は mlx-community/Dia-1.6B を基に変換された3ビット量子化モデルで、主にテキストから音声への変換タスクに使用されます。

音声合成英語

Gemma 3 27b It Abliterated Mlx 3Bit

これはmlabonne/gemma-3-27b-it-abliteratedモデルを変換した3ビット量子化バージョンで、MLXフレームワーク用に最適化されています。

大規模言語モデル

おすすめAIモデル

Llama 3 Typhoon V1.5x 8b Instruct

タイ語専用に設計された80億パラメータの命令モデルで、GPT-3.5-turboに匹敵する性能を持ち、アプリケーションシナリオ、検索拡張生成、制限付き生成、推論タスクを最適化

大規模言語モデル

Transformers 複数言語対応

Cadet-TinyはSODAデータセットでトレーニングされた超小型対話モデルで、エッジデバイス推論向けに設計されており、体積はCosmo-3Bモデルの約2％です。

対話システム

Transformers 英語

Roberta Base Chinese Extractive Qa

RoBERTaアーキテクチャに基づく中国語抽出型QAモデルで、与えられたテキストから回答を抽出するタスクに適しています。

質問応答システム中国語

AIbase

未来を切り開く、あなたのAIソリューション知識ベース

English 简体中文繁體中文にほんご

© 2025AIbase