Natgen

🚀 NatGenの事前学習モデル

NatGenは、ソースコードを「自然化」することによる生成型事前学習モデルです。コード生成、コード翻訳、バグ修正などのタスクに役立ちます。[論文] [コード] [スライド]

🚀 クイックスタート

モデルを読み込むには、以下のコードを使用します。

from transformers import AutoTokenizer, AutoModelForSeq2SeqLM
tokenizer = AutoTokenizer.from_pretrained("saikatc/NatGen")
model = AutoModelForSeq2SeqLM.from_pretrained("saikatc/NatGen")

📄 ライセンス

このプロジェクトはMITライセンスの下で公開されています。

📚 ドキュメント

データセット

このモデルは以下のデータセットを使用して学習されています。

評価指標

このモデルの評価には以下の指標が使用されています。

• EM
• CodeBLEU

引用

このモデルを引用する場合は、以下のBibTeXを使用してください。

@inproceedings{chakraborty2022natgen,
    author = {Chakraborty, Saikat and Ahmed, Toufique and Ding, Yangruibo and Devanbu, Premkumar T. and Ray, Baishakhi},
    title = {NatGen: Generative Pre-Training by “Naturalizing” Source Code},
    year = {2022},
    isbn = {9781450394130},
    publisher = {Association for Computing Machinery},
    address = {New York, NY, USA},
    url = {https://doi.org/10.1145/3540250.3549162},
    doi = {10.1145/3540250.3549162},
    booktitle = {Proceedings of the 30th ACM Joint European Software Engineering Conference and Symposium on the Foundations of Software Engineering},
    pages = {18–30},
    numpages = {13},
    keywords = {Neural Network, Semantic Preserving Transformation, Source Code Transformer, Source Code Pre-training},
    location = {Singapore, Singapore},
    series = {ESEC/FSE 2022}
}