# マルチタスクベンチマーク

Bamba-9BはMamba-2アーキテクチャに基づくデコーダ専用言語モデルで、2段階トレーニングを経ており、幅広いテキスト生成タスクに優れています。

Mamba-7BはMambaアーキテクチャに基づく70億パラメータのモデルで、RefinedWebデータセットで複数回のトレーニング（1.2兆トークン）を受けています。Mambaは状態空間モデルで、自己注意機構を使用せず、さまざまな自然言語ベンチマークで優れた性能を発揮します。

これはLLaMA-2ベースの7Bパラメータタミル語インストラクトモデルで、英語とタミル語のバイリンガル処理をサポートします。

RoBERTaLexPT-baseは、LegalPTとCrawlPTコーパスで事前学習された、法律分野に特化したポルトガル語マスク言語モデルです。

IndoBERTは、インドネシア語に特化して最適化されたBERTモデルで、複数のインドネシア語NLPタスクで優れた性能を発揮します。

BETOは大規模なスペイン語コーパスを基に訓練されたBERTモデルで、大文字小文字を区別するバージョンと区別しないバージョンがあり、様々なスペイン語NLPタスクに適しています。

BETOは大規模なスペイン語コーパスを使って学習されたBERTモデルで、大文字小文字を区別するバージョンと区別しないバージョンの両方をサポートし、様々なスペイン語NLPタスクに適用できます。