Code Trans T5 Base Code Documentation Generation Java

🚀 CodeTransモデルによるJavaコードドキュメント生成

このモデルは、T5ベースモデルアーキテクチャを使用してJavaプログラミング言語で事前学習されたものです。最初は このリポジトリ で公開されました。このモデルはトークン化されたJavaコード関数で学習されており、トークン化されたJava関数で最も良い性能を発揮します。

✨ 主な機能

モデルの説明

このCodeTransモデルは t5-base モデルに基づいています。独自のSentencePiece語彙モデルを持っています。CodeSearchNet CorpusのJavaデータセットを使って単一タスク学習を行っています。

想定される用途と制限

このモデルはJava関数の説明を生成するために使用することができ、他のJavaコードタスクで微調整することもできます。構文解析されていない、トークン化されていないJavaコードにも使用できます。ただし、Javaコードがトークン化されている場合、性能は向上するはずです。

📦 インストール

使い方

以下は、TransformersのSummarizationPipelineを使用してこのモデルでJava関数のドキュメントを生成する方法です。

from transformers import AutoTokenizer, AutoModelWithLMHead, SummarizationPipeline

pipeline = SummarizationPipeline(
    model=AutoModelWithLMHead.from_pretrained("SEBIS/code_trans_t5_base_code_documentation_generation_java"),
    tokenizer=AutoTokenizer.from_pretrained("SEBIS/code_trans_t5_base_code_documentation_generation_java", skip_special_tokens=True),
    device=0
)

tokenized_code = "public static < T , U > Function < T , U > castFunction  ( Class < U > target ) { return new CastToClass < T , U > ( target ) ; }"
pipeline([tokenized_code])

この例を colab notebook で実行してください。

📚 ドキュメント

学習データ

教師付き学習タスクのデータセットは このリンク からダウンロードできます。

評価結果

コードドキュメントタスクにおいて、異なるモデルが異なるプログラミング言語で以下の結果（BLEUスコア）を達成しています。

作成者: Ahmed Elnaggar | LinkedIn と Wei Ding | LinkedIn