Ontoprotein

🚀 OntoProteinモデル

タンパク質配列に対してマスク言語モデリング（MLM）と知識埋め込み（KE）を用いて事前学習されたモデルです。このモデルは、タンパク質の解析や予測などのタスクに役立ちます。

🚀 クイックスタート

OntoProteinモデルは、マスク言語モデリング（MLM）と知識埋め込み（KE）の目的でタンパク質配列に対して事前学習されたモデルです。このモデルは、この論文で紹介され、このリポジトリで最初に公開されました。このモデルは大文字のアミノ酸で学習されており、大文字のアミノ酸のみで動作します。

✨ 主な機能

OntoProteinは、GO（Gene Ontology）の構造をタンパク質事前学習モデルに活用する最初の一般的なフレームワークです。我々は、GOとそれに関連するタンパク質からなる新しい大規模知識グラフを構築し、グラフ内のすべてのノードを遺伝子注釈テキストまたはタンパク質配列で記述します。事前学習中に知識グラフとタンパク質埋め込みを共同で最適化するために、知識を考慮した負例サンプリングを用いた新しい対照学習を提案します。

📚 ドキュメント

BibTeXエントリと引用情報

@inproceedings{
zhang2022ontoprotein,
title={OntoProtein: Protein Pretraining With Gene Ontology Embedding},
author={Ningyu Zhang and Zhen Bi and Xiaozhuan Liang and Siyuan Cheng and Haosen Hong and Shumin Deng and Qiang Zhang and Jiazhang Lian and Huajun Chen},
booktitle={International Conference on Learning Representations},
year={2022},
url={https://openreview.net/forum?id=yfe1VMYAXa4}
}