Qwen2.5 VL 7B Abliterated Caption It I1 GGUF

🚀 Qwen2.5-VL-7B-Abliterated-Caption-it モデル

このモデルは画像キャプショニングや視覚理解などのタスクに特化したビジュアル言語モデル（VLM）です。複数の言語に対応しており、transformersライブラリを使用して操作できます。

🚀 クイックスタート

モデル情報

モデルについて

weighted/imatrix quants of https://huggingface.co/prithivMLmods/Qwen2.5-VL-7B-Abliterated-Caption-it

便利な概要とダウンロードリストについては、このモデルのモデルページをご覧ください。

静的量子化モデルは https://huggingface.co/mradermacher/Qwen2.5-VL-7B-Abliterated-Caption-it-GGUF で入手できます。

これはビジュアルモデルです。mmprojファイル（ある場合）は静的リポジトリにあります。

使用方法

GGUFファイルの使用方法がわからない場合は、TheBlokeのREADMEを参照してください。複数パートのファイルを結合する方法などの詳細も記載されています。

提供される量子化モデル

（サイズでソートされていますが、必ずしも品質を表すわけではありません。IQ量子化モデルは同サイズの非IQ量子化モデルよりも優れていることが多いです）

ikawrakowによる低品質量子化タイプの比較グラフです（値が低い方が良い）：

また、Artefact2によるこの問題に関する考察もご覧ください： https://gist.github.com/Artefact2/b5f810600771265fc1e39442288e8ec9

よくある質問とモデルリクエスト

質問に対する回答や他のモデルの量子化を依頼する場合は、https://huggingface.co/mradermacher/model_requests を参照してください。

謝辞

この作業を可能にするために、私の会社であるnethype GmbHにはサーバーの使用を許可し、ワークステーションのアップグレードを提供してくれたことに感謝します。また、@nicobossには私が多くのimatrix量子化モデルを高品質で提供できるよう、プライベートスーパーコンピューターへのアクセスを許可してくれたことに感謝します。

📄 ライセンス

このモデルはapache-2.0ライセンスの下で提供されています。