D

Deepseek R1 Distill Qwen 32B 4bit

mlx-communityによって開発
これはDeepSeek-R1-Distill-Qwen-32BモデルのMLX 4ビット量子化バージョンで、Appleチップデバイス向けの効率的な推論に適しています
ダウンロード数 130.79k
リリース時間 : 1/21/2025

モデル概要

Qwen-32Bを基に蒸留最適化された32Bパラメータの大規模言語モデルで、4ビット量子化変換を経てMLXフレームワークで動作可能

モデル特徴

MLX最適化
Appleチップ向けに最適化された4ビット量子化バージョンで、Macデバイスで効率的に動作
蒸留モデル
Qwen-32Bを基にした蒸留バージョンで、性能を維持しつつ推論効率を向上
中国語最適化
中国語テキスト処理に特化した最適化を実施

モデル能力

テキスト生成
対話インタラクション
知識質問応答
テキスト要約

使用事例

インテリジェントアシスタント
チャットボット
中国語対話アシスタントの構築
流暢な中国語対話体験
コンテンツ生成
記事作成
中国語コンテンツ作成の補助
一貫性のある中国語テキスト生成
AIbase
未来を切り開く、あなたのAIソリューション知識ベース
© 2025AIbase