Treevgr 7B CI I1 GGUF

🚀 TreeVGR-7B-CI

TreeVGR-7B-CIは、視覚的な質問応答、ビジュアルグラウンディング、視覚的推論などのタスクに特化したビジョンモデルです。このモデルは、特定のデータセットで訓練され、transformersライブラリを使用して動作します。

🚀 クイックスタート

このモデルの詳細な概要とダウンロードリストについては、このモデルのモデルページをご覧ください。

✨ 主な機能

• 視覚的な質問応答 (visual-question-answering)
• ビジュアルグラウンディング (visual-grounding)
• 視覚的推論 (visual-reasoning)

📦 インストール

GGUFファイルの使用方法がわからない場合は、TheBlokeのREADMEを参照して、詳細な説明を確認してください。これには、マルチパートファイルの連結方法も含まれます。

📚 ドキュメント

モデル情報

モデルについて

https://huggingface.co/HaochenWang/TreeVGR-7B-CI のweighted/imatrix量子化モデルです。静的量子化モデルは、https://huggingface.co/mradermacher/TreeVGR-7B-CI-GGUF で入手できます。

これはビジョンモデルです。mmprojファイル（ある場合）は、静的リポジトリにあります。

提供される量子化モデル

（サイズ順に並べられており、必ずしも品質順ではありません。IQ量子化モデルは、同程度のサイズの非IQ量子化モデルよりも優れていることが多いです。）

ikawrakowによる、いくつかの低品質量子化タイプを比較した便利なグラフがあります（数値が低いほど良い）：

また、Artefact2のこの問題に関する考え方はこちらです： https://gist.github.com/Artefact2/b5f810600771265fc1e39442288e8ec9

よくある質問 / モデルリクエスト

あなたが持っている質問の回答や、他のモデルの量子化を依頼する場合は、mradermacherのモデルリクエストページを参照してください。

📄 ライセンス

このモデルは、apache-2.0ライセンスの下で提供されています。

ありがとう

私の会社であるnethype GmbHに感謝します。彼らは私にサーバーを使用させ、私のワークステーションをアップグレードして、私が余暇時間にこの作業を行えるようにしてくれました。また、@nicobossにも感謝します。彼は私に彼のプライベートスーパーコンピューターへのアクセスを許可し、私が通常では提供できないほど多くのimatrix量子化モデルを、はるかに高い品質で提供できるようにしてくれました。