Dermatech Qwen2 VL 2B I1 GGUF

🚀 Dermatech-Qwen2-VL-2B-GGUF

このプロジェクトはRewatiramans/Dermatech-Qwen2-VL-2BのモデルをGGUF形式に量子化したものを提供します。画像テキスト生成や視覚的質問応答などの多様なタスクに対応しています。

🚀 クイックスタート

このモデルの量子化バージョンを使用するには、以下の情報を参考にしてください。

📚 ドキュメント

概要

• ベースモデル: Rewatiramans/Dermatech-Qwen2-VL-2B
• 言語: en
• ライブラリ名: transformers
• 量子化担当: mradermacher
• タグ: text-generation, image-to-text, visual-question-answering, multimodal, qwen, lora

https://huggingface.co/Rewatiramans/Dermatech-Qwen2-VL-2B の重み付き/imatrix量子化データが利用可能です。静的量子化データは https://huggingface.co/mradermacher/Dermatech-Qwen2-VL-2B-GGUF で入手できます。

使用方法

GGUFファイルの使い方がわからない場合は、TheBlokeのREADME を参照してください。ここには、複数のパートファイルを結合する方法も含まれています。

提供される量子化データ

（サイズ順にソートされており、必ずしも品質順ではありません。IQ量子化データは同サイズの非IQ量子化データよりも優れていることが多いです）

ikawrakowによる低品質量子化タイプの比較グラフです（数値が低いほど良い）：

また、Artefact2の意見も参考にしてください： https://gist.github.com/Artefact2/b5f810600771265fc1e39442288e8ec9

よくある質問 / モデルリクエスト

質問に対する回答や他のモデルの量子化を希望する場合は、https://huggingface.co/mradermacher/model_requests を参照してください。

謝辞

この作業を可能にするために、私の会社 nethype GmbH にサーバーを使用させていただき、ワークステーションのアップグレードを提供してくれたことに感謝します。また、@nicoboss が私に彼のプライベートスーパーコンピューターへのアクセスを許可し、通常よりもはるかに高品質の多くのimatrix量子化データを提供できるようにしてくれたことにも感謝します。