# 小パラメータ高効率

LaMini-Flan-T5-783M はT5アーキテクチャに基づく軽量テキスト生成モデルで、英語、ロシア語、ウクライナ語をサポートし、様々な自然言語処理タスクに適しています。

Qwen2-1.5B-Instructはアリババクラウドが提供する15億パラメータ規模の命令ファインチューニング大規模言語モデルで、Q&Aや対話タスクに適しています。

LLaMA-3Bを基に構築された微調整推論モデル、推論能力を強化し、多言語処理をサポート

KananaはKakaoが開発したバイリンガル大規模言語モデルシリーズで、韓国語タスクで優れた性能を発揮し、英語タスクでも競争力を維持しています。2.1bバージョンはこのシリーズの軽量ベースモデルです。

マイクロソフトPhi-1.5アーキテクチャを基にしたビジュアルランゲージモデル、CLIPと統合して画像処理能力を実現

microsoft/phi-2をultrachat_200kデータセットでファインチューニングした大規模言語モデルで、対話生成タスクに適しています。

EEVE-Korean-2.8B-v1.0を微調整した韓国語命令モデルで、DPO最適化トレーニングを採用

これはTinyStoriesデータセットでトレーニングされた1.1億パラメータのLlama 2アーキテクチャモデルで、軽量級テキスト生成タスクに適しています。

LaMini-T5-61MはT5-smallアーキテクチャをベースに、LaMini-instructionデータセットでファインチューニングされた命令追従モデルで、パラメータ規模は61Mです。

NorBERT 3 xsはノルウェー語に最適化されたBERTモデルで、次世代NorBERT言語モデルシリーズの最小バージョンであり、パラメータ数は15Mです。

因果言語モデリングの目標に基づいて事前学習されたインドネシア語生成モデルで、Flaxフレームワークを使用してトレーニングされました。

これはKLUE-RoBERTa-smallをベースにした韓国語文章変換モデルで、文の類似度計算と自然言語推論タスクに特化しています。