Spaceqwen2.5 VL 3B Instruct I1 GGUF

🚀 SpaceQwen2.5-VL-3B-Instruct の概要

このモデルは、多様なタスクに対応したマルチモーダルなビジョン言語モデルです。空間推論や距離推定などのタスクに特化しており、ロボティクスやエンボディッドAIなどの分野での応用が期待されます。

📦 基本情報

🚀 クイックスタート

概要

https://huggingface.co/remyxai/SpaceQwen2.5-VL-3B-Instruct の重み付き/imatrix量子化モデルです。静的量子化モデルは https://huggingface.co/mradermacher/SpaceQwen2.5-VL-3B-Instruct-GGUF で入手可能です。

💻 使用例

基本的な使用法

GGUFファイルの使い方がわからない場合は、TheBlokeのREADME を参照してください。ここには、マルチパートファイルの結合方法などの詳細が記載されています。

📚 ドキュメント

提供される量子化モデル

（サイズ順に並べられており、必ずしも品質順ではありません。IQ量子化モデルは、同程度のサイズの非IQ量子化モデルよりも優れていることが多いです）

ikawrakowによる低品質量子化タイプの比較グラフです（値が低いほど良い）：

また、Artefact2によるこの問題に関する考察はこちら： https://gist.github.com/Artefact2/b5f810600771265fc1e39442288e8ec9

FAQ / モデルリクエスト

質問に対する回答や他のモデルの量子化依頼は、https://huggingface.co/mradermacher/model_requests を参照してください。

🙏 謝辞

私の会社 nethype GmbH には、サーバーの使用を許可し、ワークステーションのアップグレードを提供してくれたことに感謝します。これにより、私は余暇時間にこの作業を行うことができました。また、@nicoboss には、彼のプライベートなスーパーコンピューターへのアクセスを許可してくれたことに感謝します。これにより、私は通常よりもはるかに高品質の多くのimatrix量子化モデルを提供することができました。