Unireason Qwen3 14B RL I1 GGUF

🚀 UniReason-Qwen3-14B-RL 量子化モデル

このプロジェクトでは、ReasoningTransferability/UniReason-Qwen3-14B-RL モデルの量子化バージョンを提供しています。これは、テキスト生成や数学的推論などのタスクに使用でき、様々なシナリオでのモデルの可用性と性能を向上させます。

🚀 クイックスタート

GGUF ファイルの使用方法がわからない場合は、TheBloke の README を参照してください。複数の部分ファイルを結合する方法など、詳細な情報が記載されています。

✨ 主な機能

• 多領域対応：テキスト生成、数学的推論など、複数の領域に適用可能です。
• 複数の量子化タイプ：さまざまなサイズと品質の量子化バージョンを提供しています。

📚 ドキュメント

モデル情報

モデルについて

このプロジェクトでは、https://huggingface.co/ReasoningTransferability/UniReason-Qwen3-14B-RL の重み付け/imatrix 量子化バージョンを提供しています。静的量子化ファイルは、https://huggingface.co/mradermacher/UniReason-Qwen3-14B-RL-GGUF で入手できます。

提供される量子化バージョン

（サイズで並べられており、必ずしも品質を表すわけではありません。IQ 量子化は、同じサイズの非 IQ 量子化よりも一般的に優れています）

以下は、ikawrakow が提供した、いくつかの低品質量子化タイプを比較する便利なグラフです（数値が低いほど良い）：

また、Artefact2 のこの問題に対する意見は、https://gist.github.com/Artefact2/b5f810600771265fc1e39442288e8ec9 を参照してください。

よくある質問とモデルリクエスト

関連する質問がある場合、または他のモデルの量子化を希望する場合は、https://huggingface.co/mradermacher/model_requests を確認してください。

📄 ライセンス

このプロジェクトは apache-2.0 ライセンスの下で提供されています。

🙏 謝辞

私の会社 nethype GmbH には、サーバーの使用を許可し、ワークステーションをアップグレードしてくれたことに感謝します。これにより、私は余暇時間にこの作業を完了することができました。また、@nicoboss には、彼のプライベートなスーパーコンピューターを使用させてくれたことに感謝します。これにより、より多くの高品質な imatrix 量子化バージョンを提供することができました。