Qari-OCR-0.3-SNAPSHOT-VL-2B-Instruct-merged-GGUFオープンソースモデル - 画像からテキストへの迅速な変換を実現

ホーム

Qari OCR 0.3 SNAPSHOT VL 2B Instruct Merged GGUF

mradermacherによって開発

これはQari-OCR-0.3-SNAPSHOT-VL-2B-Instruct-mergedモデルに基づく静的量子化バージョンで、主に画像からテキストへの変換タスクに使用されます。

画像生成テキスト

Transformers

英語#画像からテキストへの変換 #静的量子化 #英語OCR

ダウンロード数 188

リリース時間 : 6/4/2025

モデル概要

このモデルはNAMAA-SpaceのQari-OCRモデルを量子化したもので、さまざまな量子化オプションを提供し、異なるハードウェア環境とパフォーマンス要件に対応しています。

モデル特徴

複数の量子化オプション

Q2_Kからf16までの複数の量子化タイプを提供し、異なるハードウェア環境とパフォーマンス要件を満たします。

効率的な推論

量子化されたモデルは高い精度を維持しながら、計算リソースの必要量を大幅に削減します。

画像からテキストへの変換

画像からテキスト内容を抽出するタスクに特化して最適化されています。

モデル能力

画像OCR

テキスト抽出

英語テキスト認識

使用事例

文書のデジタル化

スキャン文書の変換

スキャンした紙の文書を編集可能なテキスト形式に変換します。

画像内容分析

画像内の文字認識

写真やスクリーンショットから文字内容を抽出します。

🚀 Qari-OCR-0.3-SNAPSHOT-VL-2B-Instruct-merged 静的量子化モデル

このプロジェクトは、NAMAA-Space/Qari-OCR-0.3-SNAPSHOT-VL-2B-Instruct-merged モデルの静的量子化バージョンを提供します。量子化により、モデルのメモリ使用量を削減し、推論速度を向上させることができます。

📚 詳細ドキュメント

基本情報

属性	詳情
ベースモデル	NAMAA-Space/Qari-OCR-0.3-SNAPSHOT-VL-2B-Instruct-merged
言語	en
ライブラリ名	transformers
量子化者	mradermacher
タグ	image-to-text

概要

https://huggingface.co/NAMAA-Space/Qari-OCR-0.3-SNAPSHOT-VL-2B-Instruct-merged の静的量子化バージョンです。現時点では、重み付き/イマトリックス量子化は利用できない可能性があります。静的量子化バージョンが公開されてから約1週間後にまだ表示されない場合は、私が計画していない可能性があります。コミュニティディスカッションを開いてリクエストすることができます。

使用方法

GGUFファイルの使い方がわからない場合は、TheBlokeのREADMEを参照してください。ここには、マルチパートファイルの結合方法などの詳細が記載されています。

提供される量子化バージョン

（サイズでソートされており、必ずしも品質を表しているわけではありません。IQ量子化は、同じサイズの非IQ量子化よりも優れていることが多いです。）

リンク	タイプ	サイズ/GB	備考
GGUF	Q2_K	0.8
GGUF	Q3_K_S	0.9
GGUF	Q3_K_M	0.9	低品質
GGUF	Q3_K_L	1.0
GGUF	IQ4_XS	1.0
GGUF	Q4_K_S	1.0	高速、推奨
GGUF	Q4_K_M	1.1	高速、推奨
GGUF	Q5_K_S	1.2
GGUF	Q5_K_M	1.2
GGUF	Q6_K	1.4	非常に高品質
GGUF	Q8_0	1.7	高速、最高品質
GGUF	f16	3.2	16 bpw、過剰

ikawrakowによる低品質量子化タイプの比較グラフです（値が低いほど良い）：

また、Artefact2によるこの問題に関する考察はこちらです： https://gist.github.com/Artefact2/b5f810600771265fc1e39442288e8ec9

FAQ / モデルリクエスト

質問に対する回答や、他のモデルの量子化を希望する場合は、https://huggingface.co/mradermacher/model_requests を参照してください。

謝辞

私の会社であるnethype GmbHには、サーバーの使用を許可し、ワークステーションのアップグレードを提供してくれたことに感謝します。これにより、私は自由時間にこの作業を行うことができました。また、@nicobossには、私が彼のプライベートスーパーコンピューターにアクセスできるようにしてくれたことに感謝します。これにより、私は通常よりも多くのイマトリックス量子化を高品質で提供することができました。