# 中国語対話最適化

これはQwen3-1.7B-abliteratedモデルを基にした量子化バージョンで、llama.cppを使用して量子化されており、複数の量子化タイプをサポートし、テキスト生成タスクに適しています。

Qwenチームが提供するQwen3-0.6BのLlamacpp imatrix量子化バージョンで、llama.cppを使用して量子化され、LM Studioまたはllama.cppベースのプロジェクトで実行可能です。

DeepSeek-V2-Lite-ChatのGGUF量子化バージョンで、複数の量子化タイプをサポートし、ローカル展開と推論に適しています。

Meta-Llama-3-8B-Instructを基に微調整した中国語指導モデルで、対話やQ&Aなどのシナリオに適しています。

Llama3-8Bベースの中国語生物医学＆汎用チャットモデル、slerp手法で2つの専門モデルを統合

RWKVはRNNとTransformerの長所を結合した再帰型ニューラルネットワークで、高性能、高速推論、メモリ節約などの特徴があり、無限コンテキスト長をサポートします。