# ORPOファインチューニング

Qwen2.5-32BとQwQ-32Bを統合・最適化した日本語対話モデルで、Chat VectorとORPO技術により指示追従能力を強化

Hermes-3-Llama-3.1-70B-lorablatedモデルを基に、Gutenbergデータセットでファインチューニングされた大規模言語モデル

このモデルはMistral-7B-v0.3を基にORPOファインチューニングを施したバージョンで、教師ありファインチューニングと選好アライメントの段階を統合し、チャットやテキスト生成タスクに適しています。

Llama3-70B-Chinese-ChatはMeta-Llama-3-70B-Instructを基に開発された中英バイリンガル大規模言語モデルで、中英ユーザー向けに設計されており、ロールプレイ、ツール使用、数学計算などの多様な能力を備えています。

lightblue/suzume-llama-3-8B-multilingualをORPO手法でファインチューニングした多言語大規模言語モデル

Llama-3-8BをベースにORPO手法でファインチューニングした多言語大規模モデル。50%の最も一貫性のあるランキングデータで訓練され、複数の言語タスクで優れた性能を発揮します。