VISION 1 GGUF

🚀 VISION-1 静的量子化モデル

このプロジェクトは、OverseerAI/VISION-1 モデルの静的量子化バージョンを提供します。主にテキスト分類、コンテンツモデレーション、セーフティなどのタスクに使用できます。

🚀 クイックスタート

GGUFファイルの使用方法がわからない場合は、TheBlokeのREADMEを参照してください。ここには、マルチパートファイルの連結方法などの詳細が記載されています。

✨ 主な機能

• テキスト分類
• コンテンツモデレーション
• セーフティ

📦 提供される情報

📚 ドキュメント

概要

https://huggingface.co/OverseerAI/VISION-1 の静的量子化バージョンです。現時点では、重み付き/imatrix量子化は利用できない可能性があります。静的量子化バージョンが公開されてから約1週間後にまだ表示されない場合は、計画されていない可能性があります。コミュニティディスカッションを開いて要求することができます。

提供される量子化バージョン

（サイズでソートされており、必ずしも品質を表しているわけではありません。IQ量子化は、同じサイズの非IQ量子化よりも優れていることが多いです）

ikawrakowによるいくつかの低品質量子化タイプを比較した便利なグラフです（数値が低いほど良い）：

また、Artefact2によるこの問題に関する考察はこちらです： https://gist.github.com/Artefact2/b5f810600771265fc1e39442288e8ec9

FAQ / モデルリクエスト

質問に対する回答や、他のモデルの量子化を希望する場合は、https://huggingface.co/mradermacher/model_requests を参照してください。

📄 ライセンス

このモデルは llama3.1 ライセンスの下で提供されています。

🙏 謝辞

この作業を可能にするために、私の会社である nethype GmbH がサーバーの使用を許可し、ワークステーションのアップグレードを提供してくれたことに感謝します。