Lacia Sum Small V1 GGUF

🚀 ラシアサマリー小規模バージョンv1

このモデルは自然言語処理における文章要約タスクを支援するためのもので、多言語に対応し、高い性能を発揮します。

🚀 クイックスタート

このセクションでは、モデルの概要と使用方法について説明します。

モデル概要

モデルについて

https://huggingface.co/2KKLabs/Lacia_sum_small_v1 の静的量子化バージョンです。

現時点では、重み付き/行列量子化は取得できないようです。静的量子化バージョンが公開されてから約1週間後も表示されない場合は、計画されていない可能性があります。コミュニティディスカッションを開いてリクエストすることができます。

使用方法

GGUFファイルの使用方法がわからない場合は、TheBlokeのREADME を参照してください。ここには、マルチパートファイルの結合方法などの詳細が記載されています。

提供される量子化バージョン

（サイズ順に並べられており、必ずしも品質順ではありません。IQ量子化は同サイズの非IQ量子化よりも優れていることが多いです）

ikawrakowによる低品質量子化タイプの比較グラフです（数値が低いほど良い）：

また、Artefact2によるこの問題に関する考察も参照してください： https://gist.github.com/Artefact2/b5f810600771265fc1e39442288e8ec9

よくある質問 / モデルリクエスト

質問に対する回答や他のモデルの量子化を希望する場合は、https://huggingface.co/mradermacher/model_requests を参照してください。

謝辞

私の会社である nethype GmbH に感謝します。彼らは私にサーバーを使用させ、ワークステーションをアップグレードしてくれたおかげで、私は余暇時間にこの作業を行うことができました。