Medra I1 GGUF

🚀 Medraモデル

このプロジェクトは、医療分野の質問応答や要約などのタスクに特化したテキスト生成モデルです。複数の医療データセットでファインチューニングされ、高い性能を発揮します。

🚀 クイックスタート

このセクションでは、Medraモデルの基本的な情報と使用方法について説明します。

モデル情報

概要

weighted/imatrix quants of https://huggingface.co/drwlf/Medra 静的量子化データは、https://huggingface.co/mradermacher/Medra-GGUF で入手できます。

💻 使用例

基本的な使用法

GGUFファイルの使用方法がわからない場合は、TheBloke's READMEs を参照してください。ここには、マルチパートファイルの結合方法などの詳細が記載されています。

📚 ドキュメント

提供される量子化データ

（サイズ順に並べられており、必ずしも品質の順ではありません。IQ量子化は、同じサイズの非IQ量子化よりも優れていることが多いです）

ikawrakowによる、一部の低品質量子化タイプを比較した便利なグラフです（値が低いほど良い）：

また、Artefact2によるこの問題に関する考察もあります： https://gist.github.com/Artefact2/b5f810600771265fc1e39442288e8ec9

よくある質問 / モデルリクエスト

質問に対する回答や、他のモデルの量子化を希望する場合は、https://huggingface.co/mradermacher/model_requests を参照してください。

📄 ライセンス

このモデルは、apache-2.0ライセンスの下で提供されています。

謝辞

私の会社である nethype GmbH には、サーバーの使用を許可し、ワークステーションのアップグレードを提供してくれたことに感謝します。これにより、私は余暇時間にこの作業を行うことができました。また、@nicoboss には、彼のプライベートスーパーコンピュータへのアクセスを許可してくれたことに感謝します。これにより、私は通常よりもはるかに多くのimatrix量子化を高品質で提供することができました。