Code Trans T5 Base Source Code Summarization Python

🚀 ソースコード要約Python用CodeTransモデル

T5ベースモデルアーキテクチャを使用して、プログラミング言語Pythonで事前学習されたモデルです。このモデルは、トークン化されたPythonコード関数で学習されており、トークン化されたPython関数で最も良い性能を発揮します。

🚀 クイックスタート

このCodeTransモデルは、t5-baseモデルに基づいています。独自のSentencePiece語彙モデルを持ち、ソースコード要約Pythonデータセットで単一タスク学習が行われています。このモデルは、このリポジトリで最初に公開されました。

✨ 主な機能

• このモデルは、Python関数の説明を生成するために使用できるか、他のPythonコードタスクで微調整することができます。
• 解析されていない、トークン化されていないPythonコードでも使用できますが、Pythonコードがトークン化されている場合、性能は向上します。

📦 インストール

このモデルを使用するためには、transformersライブラリが必要です。以下のコマンドでインストールできます。

pip install transformers

💻 使用例

基本的な使用法

以下は、TransformersのSummarizationPipelineを使用してこのモデルを使ってPython関数のドキュメントを生成する方法です。

from transformers import AutoTokenizer, AutoModelWithLMHead, SummarizationPipeline

pipeline = SummarizationPipeline(
    model=AutoModelWithLMHead.from_pretrained("SEBIS/code_trans_t5_base_source_code_summarization_python"),
    tokenizer=AutoTokenizer.from_pretrained("SEBIS/code_trans_t5_base_source_code_summarization_python", skip_special_tokens=True),
    device=0
)

tokenized_code = '''with open ( CODE_STRING , CODE_STRING ) as in_file : buf = in_file . readlines ( )  with open ( CODE_STRING , CODE_STRING ) as out_file : for line in buf :          if line ==   " ; Include this text   " :              line = line +   " Include below  "          out_file . write ( line ) '''
pipeline([tokenized_code])

この例は、colab notebookで実行できます。

📚 ドキュメント

モデルの説明

このCodeTransモデルは、t5-baseモデルに基づいています。独自のSentencePiece語彙モデルを持ち、ソースコード要約Pythonデータセットで単一タスク学習が行われています。

意図された用途と制限

このモデルは、Python関数の説明を生成するために使用できるか、他のPythonコードタスクで微調整することができます。解析されていない、トークン化されていないPythonコードでも使用できますが、Pythonコードがトークン化されている場合、性能は向上します。

🔧 技術詳細

訓練データ

教師付き学習タスクのデータセットは、こちらからダウンロードできます。

評価結果

ソースコード要約タスクにおいて、異なるモデルが異なるプログラミング言語で次のような結果（BLEUスコア）を達成しています。

作成者: Ahmed Elnaggar | LinkedIn と Wei Ding | LinkedIn