Bge Large Zh V1.5 I1 GGUF

🚀 BAAI/bge-large-zh-v1.5 量子化モデル

BAAI/bge-large-zh-v1.5 モデルの量子化バージョンで、特徴抽出や文書類似度計算などのタスクに役立ちます。

🚀 クイックスタート

このモデルは BAAI/bge-large-zh-v1.5 の量子化バージョンです。以下の情報を参考にして、モデルを利用してください。

📚 ドキュメント

概要

このモデルは https://huggingface.co/BAAI/bge-large-zh-v1.5 の weighted/imatrix 量子化バージョンです。静的量子化バージョンは https://huggingface.co/mradermacher/bge-large-zh-v1.5-GGUF で入手できます。

便利な概要とダウンロードリストについては、このモデルのモデルページをご覧ください。

使い方

GGUF ファイルの使い方がわからない場合は、TheBloke の README を参照してください。ここには、マルチパートファイルの結合方法などの詳細が記載されています。

提供される量子化バージョン

（サイズ順に並べられており、必ずしも品質順ではありません。IQ 量子化は同程度のサイズの非 IQ 量子化よりも優れていることが多いです）

ikawrakow による低品質量子化タイプの比較グラフです（値が低いほど良い）：

また、Artefact2 の意見はこちらです： https://gist.github.com/Artefact2/b5f810600771265fc1e39442288e8ec9

よくある質問 / モデルリクエスト

質問に対する回答や他のモデルの量子化を希望する場合は、https://huggingface.co/mradermacher/model_requests を参照してください。

謝辞

この作業を可能にするために、私の会社 nethype GmbH にサーバーを使用させていただき、ワークステーションのアップグレードを提供してくれたことに感謝します。また、@nicoboss には、彼のプライベートスーパーコンピューターへのアクセスを許可してくれたことに感謝します。これにより、私は通常よりもはるかに高品質の多くの imatrix 量子化を提供することができました。

📄 ライセンス

このモデルは MIT ライセンスの下で提供されています。