🚀 CodeTrans模型用于API推荐生成
CodeTrans模型基于t5基础模型架构,是一个预训练模型,可用于API推荐生成。该模型首次发布于this repository。
🚀 快速开始
此模型可用于生成Java编程任务的API使用示例。以下是使用Transformers的SummarizationPipeline生成Java函数文档的示例:
from transformers import AutoTokenizer, AutoModelWithLMHead, SummarizationPipeline
pipeline = SummarizationPipeline(
model=AutoModelWithLMHead.from_pretrained("SEBIS/code_trans_t5_base_api_generation"),
tokenizer=AutoTokenizer.from_pretrained("SEBIS/code_trans_t5_base_api_generation", skip_special_tokens=True),
device=0
)
tokenized_code = "parse the uses licence node of this package , if any , and returns the license definition if theres"
pipeline([tokenized_code])
你可以在colab notebook中运行此示例。
✨ 主要特性
- 基于
t5-base
模型,拥有自己的SentencePiece词汇模型。
- 在API推荐生成数据集上进行单任务训练。
📦 安装指南
文档未提及具体安装步骤,可参考原项目仓库的相关说明。
💻 使用示例
基础用法
from transformers import AutoTokenizer, AutoModelWithLMHead, SummarizationPipeline
pipeline = SummarizationPipeline(
model=AutoModelWithLMHead.from_pretrained("SEBIS/code_trans_t5_base_api_generation"),
tokenizer=AutoTokenizer.from_pretrained("SEBIS/code_trans_t5_base_api_generation", skip_special_tokens=True),
device=0
)
tokenized_code = "parse the uses licence node of this package , if any , and returns the license definition if theres"
pipeline([tokenized_code])
高级用法
文档未提供高级用法示例,可根据实际需求对基础用法进行扩展。
📚 详细文档
模型描述
该CodeTrans模型基于t5-base
模型,具备自己的SentencePiece词汇模型,在API推荐生成数据集上进行了单任务训练。
预期用途和限制
此模型可用于生成Java编程任务的API使用示例。
训练数据
有监督的训练任务数据集可在Link下载。
评估结果
对于代码文档任务,不同模型在不同编程语言上(以BLEU分数衡量)取得了以下结果:
语言/模型 |
Java |
CodeTrans - ST - Small |
68.71 |
CodeTrans - ST - Base |
70.45 |
CodeTrans - TF - Small |
68.90 |
CodeTrans - TF - Base |
72.11 |
CodeTrans - TF - Large |
73.26 |
CodeTrans - MT - Small |
58.43 |
CodeTrans - MT - Base |
67.97 |
CodeTrans - MT - Large |
72.29 |
CodeTrans - MT - TF - Small |
69.29 |
CodeTrans - MT - TF - Base |
72.89 |
CodeTrans - MT - TF - Large |
73.39 |
现有最优模型 |
54.42 |
📄 许可证
文档未提及许可证信息。
由 Ahmed Elnaggar | LinkedIn 和 Wei Ding | LinkedIn 创建