GROVER

🚀 DNA言語モデルGROVER

このモデルは、ヒトゲノムにおける配列コンテキストを学習するDNA言語モデルで、生物学やゲノミクスの分野での応用が期待されます。

🚀 クイックスタート

これは、論文 DNA language model GROVER learns sequence context in the human genome で紹介された公式の事前学習モデルです。

from transformers import AutoTokenizer, AutoModelForMaskedLM

# トークナイザーとモデルをインポート
tokenizer = AutoTokenizer.from_pretrained("PoetschLab/GROVER")
model = AutoModelForMaskedLM.from_pretrained("PoetschLab/GROVER")

🔧 技術詳細

いくつかの予備的な分析により、Byte Pair Encoding (BPE) を使用した配列の再トークン化は、配列が50ヌクレオチド未満の場合、著しく変化することが示されています。50ヌクレオチドより長い場合でも、配列の端には注意が必要です。 各配列の最初と最後に100ヌクレオチドを追加することをお勧めします。これにより、配列が元のトークン化と同じトークンで表されることが保証されます。 また、それぞれのヌクレオチドマッパー付きのトークン化された染色体も提供しています（これらは tokenized chromosomes フォルダにあります）。

📄 引用情報

BibTeXエントリと引用情報

@article{sanabria2024dna,
  title={DNA language model GROVER learns sequence context in the human genome},
  author={Sanabria, Melissa and Hirsch, Jonas and Joubert, Pierre M and Poetsch, Anna R},
  journal={Nature Machine Intelligence},
  pages={1--13},
  year={2024},
  publisher={Nature Publishing Group UK London}
}