# 低リソースでのデプロイ

これはONNXに基づく量子化モデルで、Qwen/Qwen3-Embedding-0.6Bのuint8量子化バージョンであり、検索性能を維持しながらモデルサイズを削減しています。

これはテキストから動画への量子化モデルで、基礎モデルをGGUF形式に変換し、ComfyUIで使用でき、テキストから動画生成により多くの選択肢を提供します。

このプロジェクトでは、Steelskull/L3.3-Electra-R1-70b モデルの複数の GGUF 行列量子化バージョンを提供し、異なるハードウェア環境でのモデルの実行効率とパフォーマンスを効果的に向上させます。

DeepSeek-R1-Distill-Llama-70Bは、DeepSeekチームがLlamaアーキテクチャに基づいて開発した70Bパラメータの大規模言語モデルで、蒸留技術により最適化され、効率的な推論と微調整をサポートしています。

MiniCPM-V-2_6のGGUF量子化バージョンで、llama.cppをベースに高効率な画像とテキストの変換を実現します。

Llama 3モデルの4ビット量子化バージョンで、メモリ使用量を最適化し、推論速度を向上させ、計算リソースが限られた環境に適しています。

これはMistralアーキテクチャに基づく7Bパラメータのモデルで、ロールプレイングタスクに特化しており、キャラクターカードの設定に従ったインタラクションを行うように特別に設計されています。

これはGPT2アーキテクチャに基づく蒸留モデルで、タイプ別のストーリー生成タスク用に訓練されており、パラメータ規模は8400万です。

ゲーム「ザ・ワールド・エンズ・ウィズ・ユー」(The World Ends With You)のキャラクター、ジョシュアをベースにした対話型AIモデルで、あまり目立たないチャットボットです。