# 多精度量子化

UniReason-Qwen3-14B-RLの静的量子化バージョンで、テキスト生成と数学推理の研究シーンに適しています。

このプロジェクトは、Echelon-AI/Med-Qwen2-7BモデルのGGUF量子化ファイルを提供しており、Featherless AIによってサポートされています。モデルの性能を向上させ、実行コストを削減することを目的としています。

このプロジェクトは最適化されたGGUF量子化ファイルを提供し、モデルの性能を大幅に向上させることができます。これらの量子化ファイルはFeatherless AIによってサポートされており、ユーザーは少量の費用を支払うだけで、任意の必要なモデルを実行することができます。

DeepSeek-R1-0528は大型言語モデルで、量子化処理を行ってさまざまなハードウェアでの実行効率を最適化しています。

これはマイクロソフトPhi-4-reasoningモデルの量子化バージョンで、llama.cppを使用して最適化されており、推論タスクに適しており、複数の量子化オプションをサポートしています。

このプロジェクトは、GGUF形式で保存されたBGE埋め込みモデルを提供し、llama.cppとの併用に適しており、transformersよりも優れたパフォーマンスを提供します。