Original Transformer

🚀 自定义Hugging Face Transformer模型

这是一个自定义的Hugging Face模型，它源自2017年论文“Attention Is All You Need”中介绍的原始Transformer的PyTorch实现。此为具有6500万参数的基础模型版本，经过训练可实现英语到德语的翻译。

🚀 快速开始

模型使用

model = AutoModel.from_pretrained("ubaada/original-transformer", trust_remote_code=True)
tokenizer = AutoTokenizer.from_pretrained("ubaada/original-transformer")
text = 'This is my cat'
output = model.generate(**tokenizer(text, return_tensors="pt", add_special_tokens=True, truncation=True, max_length=100))
tokenizer.decode(output[0], skip_special_tokens=True, clean_up_tokenization_spaces=True)
# 输出: ' Das ist meine Katze.'

⚠️ 重要提示

由于使用了自定义建模文件，请记得设置 trust_remote_code=True。

📦 安装指南

文档未提及具体安装步骤，可参考Hugging Face相关库的安装方法来安装所需依赖。

🔧 技术细节

训练参数

📚 详细文档

训练结果

📄 许可证

本项目采用Apache 2.0许可证。