Code Trans T5 Small Code Documentation Generation Java

🚀 CodeTrans模型：用於Java代碼文檔生成

CodeTrans模型基於t5-small架構，在Java編程語言上進行預訓練。它能為Java函數生成描述，也可針對其他Java代碼任務進行微調。該模型在標記化的Java代碼函數上效果最佳。

🚀 快速開始

如何使用

以下是使用Transformers的SummarizationPipeline來生成Java函數文檔的示例：

from transformers import AutoTokenizer, AutoModelWithLMHead, SummarizationPipeline

pipeline = SummarizationPipeline(
    model=AutoModelWithLMHead.from_pretrained("SEBIS/code_trans_t5_small_code_documentation_generation_java"),
    tokenizer=AutoTokenizer.from_pretrained("SEBIS/code_trans_t5_small_code_documentation_generation_java", skip_special_tokens=True),
    device=0
)

tokenized_code = "public static < T , U > Function < T , U > castFunction  ( Class < U > target ) { return new CastToClass < T , U > ( target ) ; }"
pipeline([tokenized_code])

你可以在colab notebook中運行此示例。

✨ 主要特性

• 基於t5-small模型架構，擁有自己的SentencePiece詞彙模型。
• 在CodeSearchNet Corpus Java數據集上進行單任務訓練。
• 可用於生成Java函數描述，也能在其他Java代碼任務上進行微調。
• 可處理未解析和未標記化的Java代碼，但對標記化的Java代碼性能更佳。

📦 安裝指南

文檔未提及安裝相關內容，暫不展示。

💻 使用示例

基礎用法

from transformers import AutoTokenizer, AutoModelWithLMHead, SummarizationPipeline

pipeline = SummarizationPipeline(
    model=AutoModelWithLMHead.from_pretrained("SEBIS/code_trans_t5_small_code_documentation_generation_java"),
    tokenizer=AutoTokenizer.from_pretrained("SEBIS/code_trans_t5_small_code_documentation_generation_java", skip_special_tokens=True),
    device=0
)

tokenized_code = "public static < T , U > Function < T , U > castFunction  ( Class < U > target ) { return new CastToClass < T , U > ( target ) ; }"
pipeline([tokenized_code])

📚 詳細文檔

模型描述

此CodeTrans模型基於t5-small模型，擁有自己的SentencePiece詞彙模型，在CodeSearchNet Corpus Java數據集上進行單任務訓練。

預期用途和限制

該模型可用於生成Java函數的描述，也可在其他Java代碼任務上進行微調。它可以處理未解析和未標記化的Java代碼，但如果Java代碼經過標記化處理，性能會更好。

🔧 技術細節

文檔未提及技術實現細節相關內容，暫不展示。

📄 許可證

文檔未提及許可證信息，暫不展示。

📊 訓練數據

有監督訓練任務的數據集可從此處下載。

📈 評估結果

對於代碼文檔任務，不同模型在不同編程語言上取得了以下BLEU分數結果：

由Ahmed Elnaggar | LinkedIn 和 Wei Ding | LinkedIn 創建