# ウクライナ語最適化

INSAIT研究所が開発したGemma 2 9Bベースのウクライナ語最適化モデルで、優れたウクライナ文化と言語理解能力を備え、元の英語能力も保持しています。

Llama-2-7b-ウクライナ語版はウクライナ語と英語をサポートするバイリンガル事前学習モデルで、Llama-2-7bを基にCulturaXからの50億トークンデータを使用して継続事前学習を行いました。

Vocosは高速なニューラルボコーダーで、スペクトル係数を生成することで効率的な音声再構築を実現し、特にテキスト読み上げタスクに適しています。

ウクライナ語に最適化された文埋め込みモデルで、多言語MPNetアーキテクチャに基づき、意味的類似性や特徴抽出タスクに適しています

ウクライナ語に最適化されたオープンソース大規模言語モデルで、ファインチューニング、モデル融合、直接選好最適化の3段階トレーニングプロセスで構築

ウクライナ語に最適化された13億パラメータの言語モデル、mGPT-XL(1.3B)を基にした深層チューニング

これはbert-base-multilingual-uncasedの簡易版で、語彙表の中のウクライナ語、英語、ロシア語のトークンのみを残しています。