# コード生成の最適化

Qwen3-1.7Bをベースに微調整し、強化学習技術によって数学的推論能力を向上させた言語モデル

これはtransformersライブラリに基づいて構築されたテキスト生成モデルで、効率的なパラメータアーキテクチャと優れたテキスト生成能力を備えています。

このモデルはgoogle/gemma-3-4b-itをcodeforces-cotsデータセットで微調整したバージョンで、主にコード関連タスクに使用されます。

Qwen2.5-Coder-7B-Instructを基に最適化したバージョンで、拒否行動の除去に焦点を当てています

Qwen2.5-Coder-14B-Instruct-abliteratedの量子化バージョンで、複数の量子化タイプをサポートし、さまざまなハードウェア条件に適しています。

Yi-Coder-1.5Bはオープンソースのコード言語モデルで、パラメータ規模は15億で、52種類のプログラミング言語をサポートし、128Kトークンの長テキスト理解能力を備えています。

PowerLM-3Bは30億のパラメータを持つ小型言語モデルで、Power学習率スケジューラを用いて訓練され、自然言語の多肢選択、コード生成、数学的推論などの複数のベンチマークテストで優れた性能を発揮します。

Qwen/CodeQwen1.5-7Bモデルをベースに、無参照モデルの単体偏好最適化方法を用いて10万件の高品質ソートデータで微調整したコード生成モデル

Phi-2はマイクロソフトが開発した小型ながら強力な言語モデルで、27億のパラメータを持ち、効率的な推論と高品質なテキスト生成に特化しています。