# 低リソース展開

Qwen2-Audio-7B-Instructモデルの静的量子化バージョンで、英語音声テキスト変換タスクをサポート

DrMedra4Bは医学分野に特化した定量モデルで、英語とルーマニア語をサポートし、医療AI、臨床推論、要約生成、診断などのタスクに適しています。

これはSarvam-mモデルの量子化バージョンで、複数のインド言語と英語のテキスト生成タスクをサポートします。

infly/inf-o1-pi0モデルを基にした量子化バージョンで、多言語テキスト生成タスクをサポートし、llama.cppツールを使用したimatrix量子化最適化を採用しています。

AceReason-Nemotron-7B は Nemotron アーキテクチャに基づく 7B パラメータ規模の大規模言語モデルで、さまざまなハードウェア要件に対応するために複数の量子化バージョンを提供します。

allura-org/Q3-30B-A3B-Designantを基にしたLlamacpp imatrix量子化バージョンで、様々な量子化ニーズに対応し、ロールプレイや対話型タスクをサポートします。

medgemma-4b-itは医療分野に特化した多モーダルモデルで、画像とテキストの入力を処理でき、放射線学や臨床推論などのさまざまな医療シーンに適用できます。

これはMLX形式に基づく4ビット量子化言語モデルで、テキスト生成タスクに適しています。

AM-Thinking-v1 は GGUF フォーマットに基づくテキスト生成モデルで、様々な自然言語処理タスクに適しています。

KernelLLMはFacebookが開発した大規模言語モデルで、このバージョンはllama.cppツールを使用してimatrix量子化を行ったバージョンです。さまざまなハードウェア要件に対応するために複数の量子化オプションを提供します。

これはNellyw888/VeriReason-Qwen2.5-1.5B-grpo-smallモデルの静的量子化バージョンで、Verilogコード生成と推論タスクに特化しています。

a-m-team/AM-Thinking-v1モデルに基づくLlamacpp imatrix量子化バージョンで、複数の量子化タイプをサポートし、テキスト生成タスクに適しています。

Big-Alice-28B-v1は28Bパラメータの大規模言語モデルで、llama.cppのimatrix量子化処理を施し、さまざまなハードウェアニーズに対応する複数量子化バージョンを提供します。

これはWan-AI/Wan2.1-VACE-14BモデルのGGUF量子化変換バージョンで、主にテキストから動画生成タスクに使用されます。

Qwen3はQwenシリーズの最新世代の大規模言語モデルで、0.6Bパラメータの密モデルを提供し、推論、指示追従、代理能力、多言語サポートにおいて画期的な進歩を遂げています。

これは12Bパラメータの大規模言語モデルで、llama.cppのimatrix量子化処理を経ており、さまざまなハードウェアニーズに対応する複数の量子化バージョンを提供します。

Qwen3は通義千問シリーズの最新世代大規模言語モデルで、完全な密モデルと混合エキスパート（MoE）モデルの組み合わせを提供します。大規模なトレーニングに基づき、Qwen3は推論能力、命令追従、エージェント機能、多言語サポートにおいて画期的な進歩を実現しました。

INTELLECT-2の量子化バージョンで、llama.cppを使用して最適化され、さまざまなハードウェア要件に対応するために複数の量子化タイプをサポートしています。

andrewzhのAbsolute_Zero_Reasoner-Coder-7bモデルを基にしたLlamacpp量子化バージョンで、複数の量子化レベルをサポートし、推論やコード生成タスクに適しています。

これはGryphe/Pantheon-Proto-RP-1.8-30B-A3Bモデルを基にした量子化バージョンで、llama.cppを使用して量子化されており、ロールプレイングやテキスト生成タスクに適しています。

Qwen2.5-VL-7B-Instructの量子化バージョンで、llama.cppを使用して量子化されており、マルチモーダルタスクをサポートし、画像からテキストへの変換などのアプリケーションシーンに適しています。

これはQwen/Qwen3-30B-A3BからMLX形式に変換された4ビット量子化モデルで、テキスト生成タスクに適しています。

これはNVIDIA OpenCodeReasoning-Nemotron-32B-IOIモデルの量子化バージョンで、llama.cppを使用して量子化処理されており、コード推論タスクに適しています。

これはNVIDIA OpenCodeReasoning-Nemotron-14BモデルのLlamacpp imatrix量子化バージョンで、コード推論タスクに適しています。

これはnomic-ai/nomic-embed-codeモデルの量子化バージョンで、llama.cppを使用してimatrix量子化を行い、コード埋め込みや特徴抽出タスクに適しています。

NVIDIA Parakeet TDT 0.6B V2 は自動音声認識（ASR）タスクに基づくモデルで、英語音声からテキストへの変換タスクに適しています。

これはQwen3-8Bモデルの量子化バージョンで、llama.cppを使用してimatrix量子化を行い、チャットシーンに適しています。

Medraは医療分野に特化したQAと要約生成モデルで、英語とルーマニア語をサポートし、医療AIアプリケーションに適しています。

Remnant-GLM4-32BはGLM4アーキテクチャに基づく32Bパラメータの大規模言語モデルで、ロールプレイングや対話型インタラクションをサポートし、特にイモリ関連のアプリケーションシナリオに適しています。

これはポーランド語の1.5Bパラメータ命令ファインチューニングモデルで、SpeakLeashのBielikシリーズを基に開発され、テキスト生成タスクに適しています。

これはマイクロソフトPhi-4-reasoningモデルの量子化バージョンで、llama.cppを使用して最適化されており、推論タスクに適しており、複数の量子化オプションをサポートしています。

Muyan-TTSはテキスト音声変換(TTS)モデルで、llama.cppで使用できるようGGUF形式に変換されています。

Qwen3-4BはQwen3-4B-Baseを基にしたGGUF形式モデルで、テキスト生成タスクに適しています。

これはQwen3-8B-abliteratedモデルの量子化バージョンで、llama.cppを使用して量子化されており、テキスト生成タスクに適しています。

これはQwen3-14B-abliteratedモデルの量子化バージョンで、llama.cppのimatrixオプションを使用して量子化されており、テキスト生成タスクに適しています。

これは多言語テキスト音声変換モデルで、中国語、英語、ドイツ語など11言語をサポートし、HKUSTAudio/Llasa-1B-Multilingualから変換されたものです。

Qwen3-1.7B-Q8_0-GGUFはQwen/Qwen3-1.7Bを変換したGGUF形式モデルで、テキスト生成タスクをサポートし、多言語対応と効率的な推論能力を備えています。

ChatTime-1-7B-Baseは時系列予測に特化した基盤モデルで、マルチモーダル時系列処理をサポートします。

ChatTime-1-7B-Chatは時系列予測に特化したマルチモーダル基盤モデルで、7Bパラメータ規模で構築されています。

このリポジトリにはQwen/Qwen3-0.6BのGGUFフォーマットモデルファイルが含まれており、TensorBlock提供のマシンで量子化処理され、llama.cppと互換性があります。