Qwen2.5 VL 7B Abliterated Caption It GGUF

🚀 Qwen2.5-VL-7B-Abliterated-Caption-it モデル

このモデルは画像キャプショニングや視覚理解などのタスクに適したモデルで、多言語に対応しています。

🚀 クイックスタート

このモデルは transformers ライブラリを使用しています。以下にモデルに関する基本情報を示します。

📚 ドキュメント

概要

このモデルは https://huggingface.co/prithivMLmods/Qwen2.5-VL-7B-Abliterated-Caption-it の静的量子化モデルです。便利な概要とダウンロードリストについては、このモデルのモデルページをご覧ください。重み付き/imatrix量子化モデルは https://huggingface.co/mradermacher/Qwen2.5-VL-7B-Abliterated-Caption-it-i1-GGUF で入手できます。

使用方法

GGUFファイルの使用方法がわからない場合は、TheBlokeのREADMEを参照してください。ここにはマルチパートファイルの結合方法などの詳細情報があります。

提供される量子化モデル

（サイズでソートされており、必ずしも品質を表しているわけではありません。IQ量子化モデルは同サイズの非IQ量子化モデルよりも優れていることが多いです）

ikawrakowによる低品質量子化タイプの比較グラフを以下に示します（数値が低いほど良い）。

Artefact2のこの問題に関する考え方はこちらです。 https://gist.github.com/Artefact2/b5f810600771265fc1e39442288e8ec9

よくある質問 / モデルリクエスト

質問に対する回答や他のモデルの量子化を希望する場合は、https://huggingface.co/mradermacher/model_requests を参照してください。

謝辞

私の会社である nethype GmbH には、サーバーを使用させていただき、ワークステーションをアップグレードしてくれたことで、私が余暇時間にこの作業を行えるようになったことに感謝します。また、@nicoboss には、私に彼のプライベートスーパーコンピューターへのアクセスを許可してくれたことで、私が通常よりもはるかに高品質の多くのimatrix量子化モデルを提供できるようになったことに感謝します。

📄 ライセンス

このモデルは apache-2.0 ライセンスの下で提供されています。