Medra27b GGUF

🚀 Medra27B

Medra27Bは、医療分野のテキスト生成や要約、診断推論などのタスクに特化したAIモデルです。微調整されたモデルで、医療関連のデータセットを用いて訓練されています。

🚀 クイックスタート

このセクションでは、Medra27Bの基本的な使い方や必要な情報を提供します。

📦 インストール

このモデルを使用するには、transformersライブラリが必要です。以下の表にモデルの詳細情報を示します。

💻 使用例

基本的な使用法

もしあなたがGGUFファイルの使い方がわからない場合は、TheBlokeのREADMEを参照してください。ここには、複数のパートファイルを結合する方法などの詳細が記載されています。

📚 ドキュメント

提供される量子化モデル

（サイズ順に並べられており、必ずしも品質順ではありません。IQ - 量子化は同じサイズの非IQ - 量子化よりも優れていることが多いです）

こちらは、ikawrakowによるいくつかの低品質量子化タイプを比較した便利なグラフです（値が低いほど良い）：

また、Artefact2によるこの問題に関する考察はこちらです： https://gist.github.com/Artefact2/b5f810600771265fc1e39442288e8ec9

FAQ / モデルリクエスト

あなたが持っている質問の回答や、他のモデルの量子化を希望する場合は、https://huggingface.co/mradermacher/model_requests を参照してください。

📄 ライセンス

このモデルは、apache - 2.0ライセンスの下で提供されています。

謝辞

私の会社であるnethype GmbHに感謝します。彼らは私にサーバーを使用させ、私のワークステーションをアップグレードして、私が余暇時間にこの作業を行えるようにしてくれました。また、@nicobossにも感謝します。彼は私に彼のプライベートスーパーコンピューターへのアクセスを許可し、私が通常よりもはるかに高品質の多くのimatrix量子化を提供できるようにしてくれました。