Erax VL 7B V1.5 GGUF

🚀 EraX-VL-7B-V1.5-GGUF

EraX-VL-7B-V1.5の静的量子化モデルです。多言語対応のマルチモーダルモデルで、保険、OCR、画像テキスト変換などの用途に使用できます。

🚀 クイックスタート

このセクションでは、EraX-VL-7B-V1.5-GGUFモデルの基本的な情報を提供します。

モデル情報

モデルについて

https://huggingface.co/erax-ai/EraX-VL-7B-V1.5 の静的量子化モデルです。現時点では、重み付き/イマトリックス量子化は利用できない可能性があります。静的量子化モデルが公開されてから約1週間後にまだ利用できない場合、私はそれらを計画していない可能性があります。コミュニティディスカッションを開いてリクエストしてください。

使用方法

GGUFファイルの使い方がわからない場合は、TheBlokeのREADME を参照してください。複数のパートファイルを結合する方法も含まれます。

提供される量子化モデル

（サイズ順に並べられており、必ずしも品質の順ではありません。IQ量子化は同じサイズの非IQ量子化よりも優れていることが多いです）

ikawrakowによる低品質量子化タイプの比較グラフです（値が低いほど良い）：

Artefact2によるこの問題に関する考察： https://gist.github.com/Artefact2/b5f810600771265fc1e39442288e8ec9

FAQ / モデルリクエスト

質問への回答や他のモデルの量子化を希望する場合は、https://huggingface.co/mradermacher/model_requests を参照してください。

謝辞

私の会社である nethype GmbH に、サーバーの使用とワークステーションのアップグレードを許可してくれたことに感謝します。これにより、私は自由時間にこの作業を行うことができました。また、@nicoboss に、プライベートなスーパーコンピューターへのアクセスを許可してくれたことに感謝します。これにより、私は通常よりも多くのイマトリックス量子化モデルを高品質で提供することができました。

📄 ライセンス

このモデルは、Apache 2.0ライセンスの下で提供されています。