Medra4b I1 GGUF

🚀 Medra4b モデル

このプロジェクトは、医療分野のテキスト生成や要約などのタスクに特化した Medra4b モデルの量子化バージョンを提供します。transformers ライブラリを用いており、複数の言語に対応しています。

🚀 クイックスタート

このモデルの量子化バージョンを使用するには、以下の情報を参考にしてください。

✨ 主な機能

• テキスト生成
• 医療AI
• 要約
• 皮膚科学
• Gemma-3ベースの微調整済みモデル

📦 インストール

本READMEには具体的なインストール手順が記載されていないため、このセクションは省略されています。

📚 ドキュメント

モデル情報

モデルについて

https://huggingface.co/drwlf/Medra4b の加重/imatrix量子化モデルです。静的量子化モデルは https://huggingface.co/mradermacher/Medra4b-GGUF で入手できます。

使用方法

GGUFファイルの使用方法がわからない場合は、TheBlokeのREADME を参照してください。ここには、マルチパートファイルの結合方法などの詳細が記載されています。

提供される量子化モデル

（サイズ順にソートされており、必ずしも品質順ではありません。IQ量子化モデルは、同サイズの非IQ量子化モデルよりも優れていることが多いです。）

ikawrakowによる低品質量子化タイプの比較グラフ（数値が低いほど良い）：

Artefact2によるこの問題に関する考察： https://gist.github.com/Artefact2/b5f810600771265fc1e39442288e8ec9

FAQ / モデルリクエスト

質問に対する回答や他のモデルの量子化リクエストについては、https://huggingface.co/mradermacher/model_requests を参照してください。

謝辞

この作業を可能にするために、私の会社 nethype GmbH にサーバーの使用を許可していただき、ワークステーションのアップグレードを提供していただきました。また、@nicoboss には、私がより多くのimatrix量子化モデルを提供できるよう、彼のプライベートスーパーコンピューターへのアクセスを許可していただきました。ありがとうございます。

📄 ライセンス

このモデルは apache-2.0 ライセンスの下で提供されています。