Llama 3 VNTL Yollisa 8B GGUF

🚀 Llama-3-VNTL-Yollisa-8B

このモデルは、翻訳や日本語メディア、オタクメディア、ビジュアルノベルなどのタスクに特化したモデルです。

🚀 クイックスタート

このセクションでは、モデルの概要と使用方法について説明します。

モデル情報

概要

https://huggingface.co/Casual-Autopsy/Llama-3-VNTL-Yollisa-8B の静的量子化モデルです。 重み付き/インマトリックス量子化は、https://huggingface.co/mradermacher/Llama-3-VNTL-Yollisa-8B-i1-GGUF で利用可能です。

使用方法

GGUFファイルの使い方がわからない場合は、TheBloke's READMEs を参照してください。ここには、マルチパートファイルの結合方法などの詳細が記載されています。

✨ 主な機能

• 翻訳や日本語メディア、オタクメディア、ビジュアルノベルなどのタスクに対応
• 様々な量子化形式で提供される

📦 インストール

このREADMEには具体的なインストール手順が記載されていないため、このセクションは省略します。

💻 使用例

このREADMEには具体的なコード例が記載されていないため、このセクションは省略します。

📚 ドキュメント

提供される量子化形式

（サイズ順に並べられており、必ずしも品質の順ではありません。IQ量子化は、同程度のサイズの非IQ量子化よりも優れていることが多いです）

ikawrakowによる低品質量子化形式の比較グラフです（値が低いほど良い）：

Artefact2によるこの問題に関する考察： https://gist.github.com/Artefact2/b5f810600771265fc1e39442288e8ec9

FAQ / モデルリクエスト

質問に対する回答や、他のモデルの量子化を依頼する場合は、https://huggingface.co/mradermacher/model_requests を参照してください。

謝辞

私の会社である nethype GmbH に感謝します。彼らは、私がサーバーを使用し、仕事の合間にこの作業を行えるようにワークステーションをアップグレードしてくれました。