# 4ビット量子化

DiffuCoder-7B-cpGRPO-4bitは、AppleのDiffuCoder-7B-cpGRPOモデルを基に変換された4ビット量子化バージョンで、MLXフレームワーク用に最適化されています。

騰訊混元A13B大規模言語モデルの4ビット量子化バージョンで、命令追従タスクに適しています。

Meta LLaMA 3.1 8B大規模言語モデルをベースに微調整されたトルコ語教育質問と回答用のチャットボットで、トルコ語教育シーンに特化して最適化されています。

これはQwen3-30Bモデルから変換された4ビット量子化バージョンで、MLXフレームワークのテキスト生成タスクに適しています。

これはQwen3-235B-A22B-8ビットモデルから変換された4ビット量子化バージョンで、MLXフレームワーク用に最適化され、テキスト生成タスクに適しています。

これはQwen3-30B-A3B-abliteratedの4ビット量子化モデルで、パラメータ規模は8B相当で、テキスト生成タスクに適しています。

このモデルはDeepSeek-R1-0528-Qwen3-8Bを基に変換された4ビット量子化バージョンで、MLXフレームワーク用に最適化されており、テキスト生成タスクに適しています。

DeepSeek AIによって開発された大規模言語モデルで、4ビット量子化による最適化が施され、Appleチップ搭載のデバイスに適しています。

DeepSeek-R1-0528-4bit は DeepSeek-R1-0528 をベースに変換された4ビット量子化モデルで、MLXフレームワーク向けに最適化されています。

Moondreamは軽量級のビジュアル言語モデルで、効率的な全プラットフォーム実行のために設計されています。2025年4月14日にリリースされた4ビット量子化版は、高い精度を維持しながらメモリ使用量を大幅に削減しました。

Qwen3-14Bをベースとしたトルコ法律専用言語モデル、LoRA手法でファインチューニングされ4ビット量子化技術を採用

Qwen3-235B-A22B-4bit-DWQはQwen3-235B-A22B-8bitモデルから変換された4ビット量子化バージョンで、テキスト生成タスクに適しています。

このモデルはQwen3-4Bの4ビットDWQ量子化バージョンで、MLX形式に変換され、mlxライブラリを使用したテキスト生成が容易になります。

これはQwen/Qwen3-30B-A3BからMLX形式に変換された4ビット量子化モデルで、テキスト生成タスクに適しています。

Qwen2.5アーキテクチャに基づく3Bパラメータの命令ファインチューニングモデル、UnslothとHuggingface TRLライブラリでトレーニング速度を最適化

Qwen3-30B-A3B-4bit-DWQ-0508は、Qwen/Qwen3-30B-A3BをMLX形式に変換した4ビット量子化モデルで、テキスト生成タスクに適しています。

Qwen3-30B-A3BからエクスポートされたMNNモデルを4ビット量子化したバージョンで、効率的な推論に適しています。

Qwen3-14B-4bit-AWQはQwen/Qwen3-14Bから変換されたMLXフォーマットモデルで、AWQ量子化技術を使用してモデルを4ビットに圧縮し、MLXフレームワークでの効率的な推論に適しています。

Qwen3-8B-4bit-DWQ は Qwen/Qwen3-8B を MLX フォーマットに変換した 4 ビット量子化バージョンで、Apple デバイス上で効率的に動作します。

これは、マイクロソフトのPhi-4-mini-reasoningモデルを変換したMLX形式の4ビット量子化バージョンで、テキスト生成タスクに適しています。

千問3-4Bモデルを微調整したキャラクタープレイ会話モデルで、キャラクター特性に合った一貫性のある対話生成が得意

Qwen3-1.7Bをベースにした4ビット量子化バージョン、MLXフレームワーク向けの軽量大規模言語モデル

Qwen3-8B-4bit-AWQは、Qwen/Qwen3-8Bを基に変換された4ビットAWQ量子化バージョンで、MLXフレームワークのテキスト生成タスクに適しています。

このモデルはQwen/Qwen3-235B-A22BをMLX形式に変換した4ビット量子化バージョンで、テキスト生成タスクに適しています。

これはQwen/Qwen3-8Bモデルの4ビット量子化バージョンで、MLXフレームワーク形式に変換されており、Appleチップデバイスでの効率的な推論に適しています。

Qwen3-30B-A3B-4bitはQwen/Qwen3-30B-A3Bを変換した4ビット量子化バージョンで、MLXフレームワーク下での効率的なテキスト生成タスクに適しています。

Qwen3-4B-4bit は Qwen/Qwen3-4B から MLX フォーマットに変換された 4 ビット量子化バージョンで、Apple チップ上での効率的な実行に適しています。

Qwen3-1.7B-4bitは通義千問1.7Bモデルの4ビット量子化バージョンで、MLXフレームワーク形式に変換されており、Apple Siliconデバイスで効率的に実行できます。

Qwen3-14B-4bitはQwen/Qwen3-14Bモデルをmlx-lmで変換した4ビット量子化バージョンで、テキスト生成タスクに適しています。

Qwen3-4BのMNNモデルの4ビット量子化バージョンで、効率的なテキスト生成タスクに使用されます。

InternVL2_5-1Bに基づく4ビット量子化バージョンで、テキスト生成とチャットシーンに適しています。

このモデルはTHUDM/GLM-Z1-32B-0414を変換した4ビット量子化バージョンで、テキスト生成タスクに適しています。

これはBAAI/bge-multilingual-gemma2モデルの4ビットGPTQ量子化バージョンで、多言語テキスト埋め込みタスクをサポートします。

このモデルはMistral-7B-Instruct-v0.3を最適化したファインチューニング版で、法医学調査分野のQ&Aタスク向けに設計されており、高度な法医学調査推論と高速知識検索をサポートします。

UI-TARS-1.5-7B-4bitはマルチモーダルモデルで、画像テキストからテキストへの変換タスクに特化しており、英語をサポートしています。

Dia-1.6B-4bit はMLXフォーマットに基づく4ビット量子化テキスト音声変換モデルで、nari-labs/Dia-1.6Bから変換されました。

Gemma 3 27B IT QAT 4bit はGoogleのオリジナルモデルから変換されたMLX形式のモデルで、画像テキストからテキストへのタスクをサポートします。

これはMLXフォーマット変換に基づくドイツ語テキスト音声変換モデルで、ドイツ語言語処理タスクをサポートします。

HiDream-I1は170億パラメータを持つオープンソースの画像生成基盤モデルで、数秒で業界トップレベルの画像を生成できます。

HiDream-I1は170億パラメータを持つオープンソースの画像生成基盤モデルで、4ビット量子化バージョンは16GB VRAMで動作し、高速かつ高品質な画像生成を実現します。