Code Trans T5 Small Code Documentation Generation Javascript

🚀 コードドキュメント生成用JavaScriptのCodeTransモデル

t5 smallモデルアーキテクチャを使用して、プログラミング言語JavaScriptで事前学習されたモデルです。このモデルは、このリポジトリで最初に公開されました。このモデルはトークン化されたJavaScriptコード関数で学習されており、トークン化されたJavaScript関数で最も良い性能を発揮します。

🚀 クイックスタート

このモデルは、JavaScript関数の説明を生成するために使用でき、他のJavaScriptコードタスクで微調整することもできます。解析されていない、トークン化されていないJavaScriptコードでも使用できますが、JavaScriptコードがトークン化されている場合、性能は向上するはずです。

✨ 主な機能

• JavaScript関数の説明を生成することができます。
• 他のJavaScriptコードタスクで微調整することができます。

📦 インストール

このモデルを使用するには、transformersライブラリが必要です。以下のコマンドでインストールできます。

pip install transformers

💻 使用例

基本的な使用法

以下は、TransformersのSummarizationPipelineを使用してこのモデルを使ってJavaScript関数のドキュメントを生成する方法です。

from transformers import AutoTokenizer, AutoModelWithLMHead, SummarizationPipeline

pipeline = SummarizationPipeline(
    model=AutoModelWithLMHead.from_pretrained("SEBIS/code_trans_t5_small_code_documentation_generation_javascript"),
    tokenizer=AutoTokenizer.from_pretrained("SEBIS/code_trans_t5_small_code_documentation_generation_javascript", skip_special_tokens=True),
    device=0
)

tokenized_code = "function isStandardBrowserEnv ( ) { if ( typeof navigator !== 'undefined' && ( navigator . product === 'ReactNative' || navigator . product === 'NativeScript' || navigator . product === 'NS' ) ) { return false ; } return ( typeof window !== 'undefined' && typeof document !== 'undefined' ) ; }"
pipeline([tokenized_code])

この例をcolab notebookで実行できます。

📚 ドキュメント

モデルの説明

このCodeTransモデルは、t5-smallモデルに基づいています。独自のSentencePiece語彙モデルを持っており、CodeSearchNet CorpusのJavaScriptデータセットで単一タスク学習を行っています。

想定される用途と制限

このモデルは、JavaScript関数の説明を生成するために使用でき、他のJavaScriptコードタスクで微調整することもできます。解析されていない、トークン化されていないJavaScriptコードでも使用できますが、JavaScriptコードがトークン化されている場合、性能は向上するはずです。

🔧 技術詳細

このモデルは、トークン化されたJavaScriptコード関数で学習されています。トークン化されたJavaScript関数で最も良い性能を発揮します。

📄 ライセンス

このモデルの作成者は、Ahmed Elnaggar | LinkedIn と Wei Ding | LinkedIn です。

📦 学習データ

教師付き学習タスクのデータセットは、こちらのリンクからダウンロードできます。

📊 評価結果

コードドキュメントタスクにおいて、異なるモデルが異なるプログラミング言語で次のような結果（BLEUスコア）を達成しています。