Spacethinker Qwen2.5VL 3B GGUF

🚀 SpaceThinker-Qwen2.5VL-3B の概要

SpaceThinker-Qwen2.5VL-3B の静的量子化モデルに関する情報です。

🚀 クイックスタート

このドキュメントでは、SpaceThinker-Qwen2.5VL-3B の静的量子化モデルについて説明します。

✨ 主な機能

• ベースモデル: remyxai/SpaceThinker-Qwen2.5VL-3B
• データセット: remyxai/SpaceThinker
• 言語: en
• ライブラリ名: transformers
• ライセンス: apache - 2.0
• 量子化: mradermacher
• タグ: remyx, qwen2.5 - vl, spatial - reasoning, multimodal, vlm, vqasynth, thinking, reasoning, test - time - compute, robotics, embodied - ai, quantitative - spatial - reasoning, distance - estimation, visual - question - answering

📚 ドキュメント

概要

https://huggingface.co/remyxai/SpaceThinker-Qwen2.5VL-3B の静的量子化モデルです。重み付け/imatrix の量子化データは、https://huggingface.co/mradermacher/SpaceThinker-Qwen2.5VL-3B-i1-GGUF で入手できます。

使用方法

GGUF ファイルの使い方がわからない場合は、TheBloke's READMEs を参照してください。ここには、マルチパートファイルの結合方法も含まれています。

提供される量子化データ

（サイズ順に並べられており、必ずしも品質の順ではありません。IQ 量子化は、同程度のサイズの非 IQ 量子化よりも優れていることが多いです。）

ikawrakow による、一部の低品質量子化タイプを比較した便利なグラフがあります（数値が低いほど良い）。

また、Artefact2 のこの問題に関する考え方はこちらです。 https://gist.github.com/Artefact2/b5f810600771265fc1e39442288e8ec9

FAQ / モデルリクエスト

質問に対する回答や、他のモデルの量子化を希望する場合は、https://huggingface.co/mradermacher/model_requests を参照してください。

謝辞

私の会社である nethype GmbH には、サーバーの使用を許可し、ワークステーションのアップグレードを提供してくれたことに感謝します。これにより、私は余暇時間にこの作業を行うことができました。また、@nicoboss には、彼のプライベートスーパーコンピューターへのアクセスを許可してくれたことに感謝します。これにより、私は通常よりもはるかに高品質の多くの imatrix 量子化データを提供することができました。

📄 ライセンス

このモデルは apache - 2.0 ライセンスの下で提供されています。