# GGUF効率的推論

Qwen2.5-VL-7B-Meteorologyの量化バージョンで、気象、気候などの分野の画像テキスト処理タスクに適しており、さまざまなハードウェア条件下で効率的に動作します。

このモデルはgoogle/gemma-2-9b-itをベースに関数呼び出しタスク向けにファインチューニングされたバージョンで、トレーニングデータはすべて手動でアノテーションされ、ロシア語版のDiTy/function-callingデータセットが使用されています。

これはcanopylabs/3b-de-ft-research_releaseモデルから変換されたGGUF形式のモデルで、ドイツ語テキスト処理に特化して最適化されています。

これはcanopylabs/3b-zh-ft-research_releaseからGGUF形式に変換された中国語言語モデルで、テキスト生成タスクに適しています。

これはcanopylabs/3b-de-ft-research_releaseモデルを変換したGGUF形式のドイツ語言語モデルで、テキスト生成タスクに適しています。

これはslim-orpheus-3b-JAPANESE-ftモデルを変換したGGUF形式のモデルで、日本語テキスト処理に特化して最適化されています。

これはcanopylabs/3b-es_it-ft-research_releaseを変換したGGUF形式モデルで、スペイン語とイタリア語をサポートしています。

このモデルはNVIDIAのLlama-3_3-Nemotron-Super-49B-v1から変換されたGGUF形式バージョンで、テキスト生成タスクに適しています。

Qwen2.5-VL-72B-Instructは72Bパラメータ規模のマルチモーダル大規模モデルで、視覚-言語タスクをサポートし、画像に関連するテキスト内容を理解し生成できます。

Qwen2.5-VL-32B-Instructは32Bパラメータ規模のマルチモーダル視覚言語モデルで、画像とテキストの共同理解と生成タスクをサポートします。

このモデルはBAAI/bge-reranker-v2-m3を変換したGGUF形式モデルで、テキストソートタスクに使用され、多言語をサポートします。

NVIDIAがリリースした8Bパラメータ規模のオープンソース大規模言語モデル、Llama-3アーキテクチャに基づき、複数の量子化バージョンを提供

このモデルはggml.aiのGGUF-my-repoスペースを使用し、llama.cppによってgoogle-t5/t5-smallからGGUF形式に変換された量子化バージョンです。

このモデルはopenGPT-X/Teuken-7B-instruct-research-v0.4を変換したGGUF形式バージョンで、多言語テキスト生成タスクをサポートします。

NoticIA-7Bはスペイン語のニュース要約生成モデルで、ニュースコンテンツの処理と要約生成に特化しています。

これはMistral-7B-Instruct-v0.2モデルをファインチューニングしたメンタルヘルスカウンセリング対話モデルで、様々なニーズに対応するため複数の量子化バージョンを提供しています。

このモデルはBAAI/bge-reranker-largeから変換されたGGUF形式モデルで、リランキングタスクに使用され、中国語と英語をサポートします。

このモデルはggml.aiのGGUF-my-repoスペースを使用し、llama.cppによってgoogle-t5/t5-smallからGGUF形式に変換された量子化バージョンです。

このモデルはBAAI/bge-reranker-v2-m3から変換されたGGUF形式のモデルで、テキストリランキングタスクに使用され、多言語をサポートします。

これはCoForAI/c4ai-command-r-08-2024モデルを変換したGGUF形式のテキスト生成モデルで、複数言語をサポートしています。

これはMBZUAI/LaMini-Flan-T5-248Mモデルを変換したGGUF形式のモデルで、テキスト生成タスクに適しています。

このモデルはxtuner/llava-llama-3-8b-v1_1から変換されたGGUF形式のモデルで、画像とテキストのマルチモーダル処理をサポートします。

Meta-Llama-3-8B-InstructのGGUF量子化バージョン、ローカル展開と推論に適しています

LLaMa2-13bベースの台湾大規模言語モデル、繁体字中国語をサポート、GGUFフォーマット採用

TinyLLama-v0は軽量言語モデルで、GGUFフォーマットで提供され、テキスト生成タスクに適しています。

これはPygmalion-2-13bとSuperCOTの重み付け融合実験モデルで、命令形式のインタラクションをサポートし、テキスト生成タスクに適しています。