# バイオインフォマティクス

GoBERTは、一般的な遺伝子機能予測に特化したモデルで、遺伝子本体グラフ情報を利用して、遺伝子本体（GO）機能間の関係を効果的に捉えることができます。

RNABERTは非コードRNA（ncRNA）に基づく事前学習モデルで、マスク言語モデリング（MLM）と構造アライメント学習（SAL）の目標を採用しています。

RiNALMoはマスク言語モデリング（MLM）目標で事前学習された非コードRNA（ncRNA）モデルで、大量の非コードRNA配列上で自己教師あり方式で訓練されています。

BERTアーキテクチャに基づくTransformerエンコーダモデルで、RNAシーケンス埋め込み生成専用に設計

このモデルはBert-Base-Uncasedを微調整して、タンパク質のアミノ酸配列に基づいてその機能を予測するマルチラベル分類タスクに使用されます。

ProGen2-smallはNijkampらの研究に基づくタンパク質生成モデルで、軽微な設定調整とフォワードプロパゲーション処理を施したミラー版です。

このモデルはタンパク質配列の埋め込みベクトルを生成し、検索タスクを高速化するための短縮版埋め込みをサポートします。

ESM-2タンパク質言語モデルに基づく配列分類器で、タンパク質配列のゼロショット分類タスクに使用されます。

ヌクレオチドトランスフォーマーは、全ゲノムDNA配列を用いて事前学習された一連の基礎言語モデルで、3200以上のヒトゲノムと850種類の広範な生物種のゲノムデータを統合しています。

ESM-1bはTransformerベースのタンパク質言語モデルで、教師なし学習によりタンパク質配列データを学習し、タンパク質の構造や機能予測に利用できます。

ESM-2はマスク言語モデリング目標で訓練された最先端のタンパク質モデルで、タンパク質配列の分析と予測タスクに適しています

TCR-BERTはBERTアーキテクチャに基づく事前学習モデルで、T細胞受容体（TCR）配列に特化して最適化されており、マスクアミノ酸モデリングタスクを通じて訓練されています。