# 大規模Transformer

人間参照ゲノムで事前学習された5億パラメータのTransformerモデルで、3,200以上の多様な人間ゲノムと850種のDNA配列情報を統合

Pythia-6.9BはEleutherAIが開発した大規模言語モデルで、Pythiaスケーラブルスイートの一部であり、解釈可能性研究を促進するために設計されています。

Meta AIが開発した大規模多言語音声認識モデルで、60言語をサポートし、10億パラメータのTransformerエンコーダーアーキテクチャに基づいています。

BigScience大型オープンサイエンス多言語モデル、46の自然言語と12のプログラミング言語をサポート

Meta AIが開発した大規模多言語音声認識モデルで、10億のパラメータを持ち、60言語の文字レベル転写をサポート

これはハンガリー語から英語へのニューラル機械翻訳モデルで、OPUS-MTプロジェクトの一部です。

ブルガリア語から英語への翻訳用ニューラル機械翻訳モデルで、OPUS-MTプロジェクトに基づいて開発されました。

これは英語からリトアニア語への翻訳用のニューラル機械翻訳モデルで、OPUS-MTプロジェクトの一部です。

これは英語から東スラブ語族（ベラルーシ語、ロシア語、ウクライナ語を含む）へのニューラル機械翻訳モデルで、OPUS-MTプロジェクトの一部です。

これはTransformerアーキテクチャに基づく大規模ニューラル機械翻訳モデルで、英語からフィンランド語への翻訳に特化しています。このモデルはOPUS-MTプロジェクトの一部であり、Marian NMTフレームワークでトレーニングされ、Hugging Faceのtransformersライブラリを通じて提供されています。

XLMモデルは17言語のテキストを用いて学習された言語間事前学習モデルで、マスク言語モデリング(MLM)の目標を採用しています。

XLMモデルは、100種類の言語のウィキペディアテキストを使って学習されたクロス言語モデルで、マスク言語モデリングの目的で事前学習されています。