Spacethinker Qwen2.5VL 3B I1 GGUF

🚀 SpaceThinker-Qwen2.5VL-3B の概要

SpaceThinker-Qwen2.5VL-3B は、多様な空間推論やマルチモーダルタスクに対応したモデルです。このREADMEでは、モデルの使用方法や提供される量子化データについて説明します。

📚 詳細情報

🚀 クイックスタート

概要

https://huggingface.co/remyxai/SpaceThinker-Qwen2.5VL-3B の重み付き/imatrix量子化データについてです。静的量子化データは https://huggingface.co/mradermacher/SpaceThinker-Qwen2.5VL-3B-GGUF で入手できます。

使用方法

GGUFファイルの使用方法がわからない場合は、TheBloke's READMEs を参照してください。ここには、マルチパートファイルの結合方法も含まれています。

📦 提供される量子化データ

（サイズ順に並べられており、必ずしも品質を表しているわけではありません。IQ量子化は同サイズの非IQ量子化よりも優れていることが多いです。）

ikawrakowによる低品質量子化タイプの比較グラフです（値が低いほど良い）。

また、Artefact2によるこの問題に関する考え方はこちらです。 https://gist.github.com/Artefact2/b5f810600771265fc1e39442288e8ec9

📄 よくある質問 / モデルリクエスト

質問に対する回答や他のモデルの量子化を希望する場合は、https://huggingface.co/mradermacher/model_requests を参照してください。

🙏 謝辞

この作業を可能にするために、私の会社 nethype GmbH にサーバーの使用を許可していただき、ワークステーションのアップグレードを提供していただきました。また、@nicoboss には、私が多くのimatrix量子化データをより高品質で提供できるように、彼のプライベートスーパーコンピューターへのアクセスを許可していただきました。この場を借りて感謝申し上げます。