# 2段階ファインチューニング

FineMath-Llama-3Bをファインチューニングした3BパラメータのQAモデルで、Numia-1.5 QAデータセットでトレーニング

ALMAはLLaMA-2-13Bをベースにした2段階トレーニングの大規模言語モデル翻訳システムで、単一言語データのファインチューニングと並列コーパス最適化の革新的なアプローチにより翻訳性能を大幅に向上

ALMAは大規模言語モデルに基づく先進的な翻訳システムで、2段階のトレーニング手法（単一言語ファインチューニング＋並列コーパス最適化）を採用し、13B-LoRAバージョンはLLaMA-2-13Bを基盤にLoRAファインチューニングにより最高の性能を実現

ALMA-13B-Rは大規模言語モデルを基盤とした先進的な翻訳モデルで、対照選好最適化（CPO）を用いてファインチューニングされており、GPT-4やWMTコンペティションの優勝者に匹敵、あるいは凌駕する性能を発揮します。

フランス語手書きテキスト向けのTrOCR基本モデルで、2段階ファインチューニング戦略で訓練され、単一行テキスト画像認識に適している

これはfacebook/wav2vec2-xls-r-300mモデルをファインチューニングしたヘブライ語自動音声認識モデルで、2段階のトレーニングにより小規模と大規模のデータセットで性能を最適化しています。