Llama 3 VNTL Yollisa 8B I1 GGUF

🚀 Llama-3-VNTL-Yollisa-8B量化模型

本項目提供了Casual-Autopsy/Llama-3-VNTL-Yollisa-8B模型的量化版本，支持英語和日語，可用於翻譯、視覺小說等場景。

🚀 快速開始

如果你不確定如何使用GGUF文件，請參考 TheBloke的README 以獲取更多詳細信息，包括如何拼接多部分文件。

✨ 主要特性

• 多語言支持：支持英語和日語。
• 多種量化類型：提供了多種不同大小和質量的量化版本。
• 應用場景廣泛：適用於翻譯、視覺小說等領域。

📚 詳細文檔

模型信息

關於模型

本項目提供了 Casual-Autopsy/Llama-3-VNTL-Yollisa-8B 的加權/imatrix量化版本。靜態量化版本可在 mradermacher/Llama-3-VNTL-Yollisa-8B-GGUF 獲取。

提供的量化版本

（按大小排序，不一定按質量排序。IQ量化通常優於類似大小的非IQ量化）

以下是ikawrakow提供的一個比較一些低質量量化類型的實用圖表（數值越低越好）：

此外，你還可以參考Artefact2對此事的看法：Artefact2的觀點

常見問題與模型請求

如果你有任何問題或希望對其他模型進行量化，請參考 mradermacher/model_requests。

致謝

感謝我的公司 nethype GmbH 讓我使用其服務器，並對我的工作站進行升級，使我能夠在業餘時間完成這項工作。此外，感謝 @nicoboss 讓我使用他的私人超級計算機，使我能夠提供更多、更高質量的imatrix量化版本。