# GGUF軽量化

MiniCPM4-8B-Q8_0-GGUFは、llama.cppを使用してopenbmb/MiniCPM4-8BをGGUF形式に変換したモデルで、ローカル推論に適しています。

BERTベースの感情分析モデルの静的量子化バージョンで、英語テキストの感情分類をサポート

MedGemma-4B-it-Q8_0-GGUF は google/medgemma-4b-it を基に変換された GGUF フォーマットのモデルで、医療分野の画像テキストからテキストへのタスク専用に設計されています。

これはLlama-3.1アーキテクチャに基づく8Bパラメータモデルで、Hacker Newsのコメント要約生成に特化しています。

このモデルはQwen2-VL-7B-Captioner-RelaxedをGGUF形式に変換したバージョンで、画像からテキストへのタスクに最適化されており、llama.cppやKoboldcppなどのツールで実行可能です。

これはLlama-3.1アーキテクチャに基づく8Bパラメータモデルで、ウズベク語と英語に特化して最適化されており、テキスト生成、要約、翻訳、QAなどのタスクをサポートします。

これはFalconsai/text_summarizationモデルから変換されたGGUF形式のテキスト要約モデルで、llama.cppを使用した推論に適しています。

GGUF形式に基づくアニメ風画像生成モデルで、テキスト記述から高品質なアニメ画像を生成可能。

これは fal/AuraFlow-v0.3 の直接 GGUF フォーマット変換バージョンで、主にテキストから画像生成タスクに使用されます。