Original Transformer

🚀 自定義Hugging Face Transformer模型

這是一個自定義的Hugging Face模型，它源自2017年論文“Attention Is All You Need”中介紹的原始Transformer的PyTorch實現。此為具有6500萬參數的基礎模型版本，經過訓練可實現英語到德語的翻譯。

🚀 快速開始

模型使用

model = AutoModel.from_pretrained("ubaada/original-transformer", trust_remote_code=True)
tokenizer = AutoTokenizer.from_pretrained("ubaada/original-transformer")
text = 'This is my cat'
output = model.generate(**tokenizer(text, return_tensors="pt", add_special_tokens=True, truncation=True, max_length=100))
tokenizer.decode(output[0], skip_special_tokens=True, clean_up_tokenization_spaces=True)
# 輸出: ' Das ist meine Katze.'

⚠️ 重要提示

由於使用了自定義建模文件，請記得設置 trust_remote_code=True。

📦 安裝指南

文檔未提及具體安裝步驟，可參考Hugging Face相關庫的安裝方法來安裝所需依賴。

🔧 技術細節

訓練參數

📚 詳細文檔

訓練結果

📄 許可證

本項目採用Apache 2.0許可證。