T5 Summary En Ru Zh Base 2048 GGUF

🚀 utrobinmv/t5_summary_en_ru_zh_base_2048の静的量子化モデル

このプロジェクトは、utrobinmv/t5_summary_en_ru_zh_base_2048モデルの静的量子化バージョンを提供しています。複数の言語（英語、ロシア語、中国語）に対応した要約タスクに使用できます。

🚀 クイックスタート

このモデルの量子化バージョンを使用する前に、GGUFファイルの使い方がわからない場合は、TheBlokeのREADMEを参照してください。複数のパートに分割されたファイルの結合方法などの詳細が記載されています。

📚 詳細ドキュメント

概要

このモデルは、https://huggingface.co/utrobinmv/t5_summary_en_ru_zh_base_2048 の静的量子化バージョンです。現時点では、weighted/imatrix量子化は提供されていません。静的量子化バージョンが公開されてから約1週間後も提供されない場合は、計画されていない可能性があります。必要な場合は、コミュニティディスカッションを開いてリクエストしてください。

提供される量子化バージョン

（サイズ順にソートされており、必ずしも品質を表しているわけではありません。IQ量子化は、同じサイズの非IQ量子化よりも優れていることが多いです。）

ikawrakowによる低品質量子化タイプの比較グラフです（値が低いほど良い）。

また、Artefact2による関連記事も参照してください。 https://gist.github.com/Artefact2/b5f810600771265fc1e39442288e8ec9

FAQ / モデルリクエスト

質問に対する回答や、他のモデルの量子化を希望する場合は、https://huggingface.co/mradermacher/model_requests を参照してください。

謝辞

この作業を可能にするために、私の会社nethype GmbHにサーバーを使用させていただき、ワークステーションのアップグレードを提供してくれたことに感謝します。

📄 ライセンス

このモデルは、Apache 2.0ライセンスの下で提供されています。

モデル情報