Randeng Deltalm 362M En Zh

🚀 燃灯-Deltalm-362M-英中翻译模型

本模型借助封神框架，基于 Detalm base 进行微调训练。训练数据包含搜集的中英数据集（共三千万条）以及 iwslt 的中英平行数据（二十万条），最终得到英 -> 中方向的翻译模型。

相关链接

• 封神榜主页
• 封神榜-LM Github仓库

🚀 快速开始

本模型是基于 Detalm base 进行微调得到的英 -> 中翻译模型，下面将为你介绍其使用方法。

✨ 主要特性

• 数据丰富：使用了大量的中英数据集（共三千万条）以及 iwslt 的中英平行数据（二十万条）进行训练。
• 框架支持：借助封神框架进行微调，确保模型训练的高效性和稳定性。

📦 安装指南

使用前，你需要提前从 Fengshenbang-LM 的 GitHub 仓库下载 modeling_deltalm.py 文件，你可以使用以下两种方式：

• 直接使用 wget 命令下载：

wget https://huggingface.co/IDEA-CCNL/Randeng-Deltalm-362M-En-Zn/resolve/main/modeling_deltalm.py

• 强烈推荐你克隆 Fengshenbang-LM 仓库：

git clone https://github.com/IDEA-CCNL/Fengshenbang-LM
cd Fengshenbang-LM/fengshen/

💻 使用示例

基础用法

# Need to download modeling_deltalm.py from Fengshenbang-LM github repo in advance,
# or you can download modeling_deltalm.py use wget https://huggingface.co/IDEA-CCNL/Randeng-Deltalm-362M-En-Zn/resolve/main/modeling_deltalm.py
# Strongly recommend you git clone the Fengshenbang-LM repo:
# 1. git clone https://github.com/IDEA-CCNL/Fengshenbang-LM
# 2. cd Fengshenbang-LM/fengshen/

from models.deltalm.modeling_deltalm import DeltalmForConditionalGeneration
from transformers import AutoTokenizer

model = DeltalmForConditionalGeneration.from_pretrained("IDEA-CCNL/Randeng-Deltalm-362M-En-Zn")
tokenizer = AutoTokenizer.from_pretrained("microsoft/infoxlm-base")

text = "In summer, especially, you'll need to watch out for mosquitoes if you decide to hike through the rainforest."
inputs = tokenizer(text, max_length=512, return_tensors="pt")

generate_ids = model.generate(inputs["input_ids"], max_length=512)
tokenizer.batch_decode(generate_ids, skip_special_tokens=True, clean_up_tokenization_spaces=False)[0]

# model Output:
# 如果你决定徒步穿越热带雨林,你需要小心蚊子,尤其是在夏天。

📚 详细文档

模型分类

模型信息

参考论文：DeltaLM: Encoder-Decoder Pre-training for Language Generation and Translation by Augmenting Pretrained Multilingual Encoders

下游效果

📄 许可证

如果你在您的工作中使用了我们的模型，可以引用我们的论文：

@article{fengshenbang,
  author    = {Jiaxing Zhang and Ruyi Gan and Junjie Wang and Yuxiang Zhang and Lin Zhang and Ping Yang and Xinyu Gao and Ziwei Wu and Xiaoqun Dong and Junqing He and Jianheng Zhuo and Qi Yang and Yongfeng Huang and Xiayu Li and Yanghan Wu and Junyu Lu and Xinyu Zhu and Weifeng Chen and Ting Han and Kunhao Pan and Rui Wang and Hao Wang and Xiaojun Wu and Zhongshen Zeng and Chongpei Chen},
  title     = {Fengshenbang 1.0: Being the Foundation of Chinese Cognitive Intelligence},
  journal   = {CoRR},
  volume    = {abs/2209.02970},
  year      = {2022}
}

也可以引用我们的网站:

@misc{Fengshenbang-LM,
  title={Fengshenbang-LM},
  author={IDEA-CCNL},
  year={2021},
  howpublished={\url{https://github.com/IDEA-CCNL/Fengshenbang-LM}},
}