Docgemma3 4B GGUF

🚀 DocGemma3-4B-GGUF

DocGemma3-4B-GGUFは、医療分野の質問応答や要約などのタスクに特化したテキスト生成モデルです。事前学習済みモデルをベースに、複数の医療データセットでファインチューニングされています。

🚀 クイックスタート

このモデルは、医療関連のテキスト生成、質問応答、要約などのタスクに使用できます。以下のセクションで、モデルの詳細、使用方法、提供される量子化モデルについて説明します。

📚 ドキュメント

モデル情報

概要

https://huggingface.co/drwlf/Medra の静的量子化モデルです。

重み付き/インマトリックス量子化は現時点では（私には）利用できないようです。静的量子化モデルが公開されてから約1週間経っても表示されない場合は、私が計画していない可能性があります。コミュニティディスカッションを開いてリクエストしてください。

使用方法

GGUFファイルの使い方がわからない場合は、TheBlokeのREADME を参照してください。複数のパートファイルを結合する方法など、詳細な情報が記載されています。

提供される量子化モデル

（サイズ順に並べられており、必ずしも品質の順ではありません。IQ量子化は同程度のサイズの非IQ量子化よりも優れていることが多いです）

こちらは、ikawrakowによるいくつかの低品質量子化タイプを比較した便利なグラフです（値が低いほど良い）：

また、Artefact2によるこの問題に関する考察がこちらです： https://gist.github.com/Artefact2/b5f810600771265fc1e39442288e8ec9

FAQ / モデルリクエスト

質問に対する回答や、他のモデルの量子化を希望する場合は、https://huggingface.co/mradermacher/model_requests を参照してください。

謝辞

私の会社である nethype GmbH に感謝します。彼らは私にサーバーを使用させ、ワークステーションをアップグレードして、私が余暇時間にこの作業を行えるようにしてくれました。