Code Trans T5 Base Code Documentation Generation Java

🚀 CodeTrans模型：用於Java代碼文檔生成

CodeTrans模型基於t5基礎模型架構，在Java編程語言上進行了預訓練。它首次發佈於 此倉庫。該模型在經過分詞處理的Java代碼函數上進行訓練，因此在處理分詞後的Java函數時表現最佳。

🚀 快速開始

本部分將引導你快速瞭解如何使用CodeTrans模型進行Java代碼文檔生成。

✨ 主要特性

• 模型架構：基於t5-base模型，擁有自己的SentencePiece詞彙模型。
• 訓練方式：在CodeSearchNet Corpus Java數據集上進行單任務訓練。
• 應用場景：可用於生成Java函數的描述，也可在其他Java代碼任務上進行微調。
• 代碼適應性：能夠處理未解析和未分詞的Java代碼，但對分詞後的代碼處理效果更佳。

📦 安裝指南

文檔未提及安裝步驟，故跳過此章節。

💻 使用示例

基礎用法

以下是如何使用Transformers的SummarizationPipeline來生成Java函數文檔的示例代碼：

from transformers import AutoTokenizer, AutoModelWithLMHead, SummarizationPipeline

pipeline = SummarizationPipeline(
    model=AutoModelWithLMHead.from_pretrained("SEBIS/code_trans_t5_base_code_documentation_generation_java"),
    tokenizer=AutoTokenizer.from_pretrained("SEBIS/code_trans_t5_base_code_documentation_generation_java", skip_special_tokens=True),
    device=0
)

tokenized_code = "public static < T , U > Function < T , U > castFunction  ( Class < U > target ) { return new CastToClass < T , U > ( target ) ; }"
pipeline([tokenized_code])

你可以在 colab notebook 中運行此示例。

📚 詳細文檔

模型描述

此CodeTrans模型基於t5-base模型構建，具備獨立的SentencePiece詞彙模型，並在CodeSearchNet Corpus Java數據集上完成單任務訓練。

預期用途與限制

該模型可用於生成Java函數的描述，也能在其他Java代碼任務上進行微調。它可以處理未解析和未分詞的Java代碼，不過若Java代碼經過分詞處理，模型性能會更優。

🔧 技術細節

訓練數據

有監督訓練任務的數據集可從 此處 下載。

評估結果

在代碼文檔生成任務中，不同模型在不同編程語言上的評估結果（以BLEU分數衡量）如下：

📄 許可證

文檔未提及許可證信息，故跳過此章節。

創作者：Ahmed Elnaggar | LinkedIn 以及 魏丁 | LinkedIn