Smolvlm2 2.2B Instruct GGUF

🚀 SmolVLM2-2.2B-Instruct

SmolVLM2-2.2B-Instructは、ビデオとテキストを扱うモデルで、特定のデータセットを用いて学習されています。このモデルの静的量子化バージョンが提供されています。

🚀 クイックスタート

このモデルに関する基本的な情報や使用方法を説明します。

モデル情報

概要

https://huggingface.co/HuggingFaceTB/SmolVLM2-2.2B-Instruct の静的量子化バージョンです。重み付き/imatrixの量子化データは、https://huggingface.co/mradermacher/SmolVLM2-2.2B-Instruct-i1-GGUF で入手できます。

💻 使用例

基本的な使用法

GGUFファイルの使い方がわからない場合は、TheBlokeのREADME を参照してください。ここには、マルチパートファイルの結合方法などの詳細が記載されています。

📚 ドキュメント

提供される量子化バージョン

（サイズ順に並んでいますが、必ずしも品質順ではありません。IQ量子化は、同じサイズの非IQ量子化よりも優れていることが多いです。）

ikawrakowによる、一部の低品質量子化タイプを比較した便利なグラフがあります（数値が低いほど良い）：

また、Artefact2によるこの問題に関する考察もあります： https://gist.github.com/Artefact2/b5f810600771265fc1e39442288e8ec9

FAQ / モデルリクエスト

質問に対する回答や、他のモデルの量子化を依頼する場合は、https://huggingface.co/mradermacher/model_requests を参照してください。

📄 ライセンス

このモデルは、apache - 2.0ライセンスの下で提供されています。

謝辞

私の会社である nethype GmbH に感謝します。彼らは私にサーバーを使用させ、私のワークステーションをアップグレードしてくれたことで、私が余暇時間にこの作業を行うことができるようになりました。