Code Trans T5 Base Code Documentation Generation Python

🚀 用於Python代碼文檔生成的CodeTrans模型

本模型基於t5-base架構，在Python編程語言上進行預訓練。它首次發佈於 此倉庫。該模型在經過分詞處理的Python代碼函數上進行訓練，因此在處理分詞後的Python函數時表現最佳。

🚀 快速開始

模型描述

此CodeTrans模型基於t5-base模型構建，擁有自己的SentencePiece詞彙模型。它在CodeSearchNet語料庫的Python數據集上進行單任務訓練。

預期用途與限制

該模型可用於生成Python函數的描述，也可在其他Python代碼任務上進行微調。它可以處理未解析和未分詞的Python代碼，但如果代碼經過分詞處理，性能會更好。

使用方法

以下是使用Transformers的SummarizationPipeline來使用該模型生成Python函數文檔的示例代碼：

from transformers import AutoTokenizer, AutoModelWithLMHead, SummarizationPipeline

pipeline = SummarizationPipeline(
    model=AutoModelWithLMHead.from_pretrained("SEBIS/code_trans_t5_base_code_documentation_generation_python"),
    tokenizer=AutoTokenizer.from_pretrained("SEBIS/code_trans_t5_base_code_documentation_generation_python", skip_special_tokens=True),
    device=0
)

tokenized_code = "def e ( message , exit_code = None ) : print_log ( message , YELLOW , BOLD ) if exit_code is not None : sys . exit ( exit_code )"
pipeline([tokenized_code])

你可以在 Colab筆記本 中運行此示例。

訓練數據

有監督訓練任務的數據集可以從 此鏈接 下載。

評估結果

對於代碼文檔生成任務，不同模型在不同編程語言上取得了以下BLEU分數結果：

作者信息

本模型由 Ahmed Elnaggar | 領英 和 Wei Ding | 領英 創建。