Huihui Gemma 3n E4B It Abliterated GGUF

🚀 Huihui-gemma-3n-E4B-it-abliterated

このモデルは、自動音声認識、自動音声翻訳、オーディオテキスト変換、ビデオテキスト変換などのタスクに使用できるモデルです。Hugging Face上でGemmaにアクセスするには、Googleの使用許諾書を確認して同意する必要があります。

🚀 クイックスタート

モデルへのアクセス

Hugging Face上でGemmaにアクセスするには、Googleの使用許諾書を確認して同意する必要があります。これを行うには、Hugging Faceにログインして以下をクリックしてください。リクエストは即座に処理されます。

モデルの概要

• ベースモデル: huihui-ai/Huihui-gemma-3n-E4B-it-abliterated
• ライセンス: gemma
• ライブラリ名: transformers

📚 ドキュメント

モデルについて

https://huggingface.co/huihui-ai/Huihui-gemma-3n-E4B-it-abliterated の静的量子化モデルです。

便利な概要とダウンロードリストについては、このモデルのモデルページをご覧ください。

現時点では、重み付き/行列量子化は利用できない可能性があります。静的量子化モデルが公開されてから約1週間後に表示されない場合、私はそれらを計画していない可能性があります。コミュニティディスカッションを開いてリクエストしてください。

モデルの使用方法

GGUFファイルの使用方法がわからない場合は、TheBlokeのREADME を参照してください。ここには、マルチパートファイルの連結方法も含まれています。

提供される量子化モデル

（サイズでソートされており、必ずしも品質を反映しているわけではありません。IQ量子化は、同じサイズの非IQ量子化よりも優れていることが多いです）

ikawrakowによる、いくつかの低品質量子化タイプを比較した便利なグラフです（数値が低いほど良い）:

また、Artefact2によるこの問題に関する考え方もあります: https://gist.github.com/Artefact2/b5f810600771265fc1e39442288e8ec9

FAQ / モデルリクエスト

質問に対する回答や、他のモデルの量子化を希望する場合は、こちら を参照してください。

📄 ライセンス

このモデルはgemmaライセンスの下で提供されています。

謝辞

私の会社である nethype GmbH に感謝します。彼らは、私がサーバーを使用し、私のワークステーションをアップグレードすることを許可し、私が余暇時間にこの作業を行うことを可能にしてくれました。