Japanese Gpt Neox 3.6b Instruction Ppo

🚀 日语GPT-NeoX 36亿参数指令PPO模型

本项目提供了一个具有36亿参数的日语GPT - NeoX模型。该模型基于人类反馈强化学习（RLHF）进行训练，能够更好地遵循指令，为用户提供高质量的对话回复。

🚀 快速开始

模型使用示例

import torch
from transformers import AutoTokenizer, AutoModelForCausalLM

# 加载预训练的分词器和模型
tokenizer = AutoTokenizer.from_pretrained("rinna/japanese-gpt-neox-3.6b-instruction-ppo", use_fast=False)
model = AutoModelForCausalLM.from_pretrained("rinna/japanese-gpt-neox-3.6b-instruction-ppo")

# 如果GPU可用，将模型移动到GPU上
if torch.cuda.is_available():
    model = model.to("cuda")

# 示例输入提示
prompt = [
    {
        "speaker": "ユーザー",
        "text": "コンタクトレンズを慣れるにはどうすればよいですか？"
    },
    {
        "speaker": "システム",
        "text": "これについて具体的に説明していただけますか？何が難しいのでしょうか？"
    },
    {
        "speaker": "ユーザー",
        "text": "目が痛いのです。"
    },
    {
        "speaker": "システム",
        "text": "分かりました、コンタクトレンズをつけると目がかゆくなるということですね。思った以上にレンズを外す必要があるでしょうか？"
    },
    {
        "speaker": "ユーザー",
        "text": "いえ、レンズは外しませんが、目が赤くなるんです。"
    }
]
prompt = [
    f"{uttr['speaker']}: {uttr['text']}"
    for uttr in prompt
]
prompt = "<NL>".join(prompt)
prompt = (
    prompt
    + "<NL>"
    + "システム: "
)

# 对输入提示进行编码
token_ids = tokenizer.encode(prompt, add_special_tokens=False, return_tensors="pt")

# 生成输出
with torch.no_grad():
    output_ids = model.generate(
        token_ids.to(model.device),
        do_sample=True,
        max_new_tokens=128,
        temperature=0.7,
        repetition_penalty=1.1,
        pad_token_id=tokenizer.pad_token_id,
        bos_token_id=tokenizer.bos_token_id,
        eos_token_id=tokenizer.eos_token_id
    )

# 对输出进行解码
output = tokenizer.decode(output_ids.tolist()[0][token_ids.size(1):])
output = output.replace("<NL>", "\n")
print(output)
"""それは、コンタクトレンズが目に合わないために起こることがあります。レンズが目の表面に長時間触れ続けることが原因となることがあります。また、コンタクトレンズが汚れている可能性もあります。コンタクトレンズケースを定期的に洗浄したり、コンタクトレンズを正しくフィットさせるようにしたりすることが役立ちます。</s>"""

✨ 主要特性

模型架构

这是一个基于Transformer的语言模型，具有36层，隐藏层大小为2816。

人类反馈强化学习（RLHF）

本模型遵循OpenAI的InstructGPT论文，采用人类反馈强化学习（RLHF）使模型行为与输入指令保持一致。具体分为两个阶段训练：

1. 监督微调（SFT）：产生了rinna/japanese-gpt-neox-3.6b-instruction-sft-v2。
2. 基于PPO的强化学习（RL）：产生了本模型。

PPO与SFT评估

我们对100个提示进行了人工评估和基于ChatGPT的自动评估，以评估强化学习带来的性能提升。

强化学习

在强化学习阶段，我们使用了CarperAI/trlx及其实现的PPO算法。RL数据是以下数据集的子集，并已翻译成日语：

• Anthropic HH RLHF数据

模型系列

贡献者

• Tianyu Zhao
• Kei Sawada

发布日期

2023年3月31日

📚 详细文档

局限性

我们发现此版本的PPO模型比其SFT对应版本更容易生成重复文本，因此我们设置repetition_penalty = 1.1以获得更好的生成性能。（在上述评估实验中，相同的生成超参数也应用于SFT模型。）你也可以探索其他超参数组合，以获得更高的生成随机性/多样性，从而提高生成质量，例如temperature = 0.9, repetition_penalty = 1.0。

输入输出格式

采用了一种特殊的格式来构建输入：

• 输入提示被格式化为ユーザー和システム之间的对话。
• 每个输入语句由以下部分组成：
  1. 说话者（"ユーザー"或"システム"）。
  2. 冒号（":"）。
  3. 空格（" "）。
  4. 语句文本（例如"世界で一番高い山は？"）。
• 输入提示应以"システム: "结尾，以告知模型生成响应。
• 由于模型的分词器不识别"\n"，因此使用特殊的换行符号"<NL>"代替。
• 输入和输出语句中的所有换行符都应替换为"<NL>"。
• 输入提示中的所有语句都应用"<NL>"分隔。

以下是一个从对话构建输入的示例：

prompt = [
    {
        "speaker": "ユーザー",
        "text": "コンタクトレンズを慣れるにはどうすればよいですか？"
    },
    {
        "speaker": "システム",
        "text": "これについて具体的に説明していただけますか？何が難しいのでしょうか？"
    },
    {
        "speaker": "ユーザー",
        "text": "目が痛いのです。"
    },
    {
        "speaker": "システム",
        "text": "分かりました、コンタクトレンズをつけると目がかゆくなるということですね。思った以上にレンズを外す必要があるでしょうか？"
    },
    {
        "speaker": "ユーザー",
        "text": "いえ、レンズは外しませんが、目が赤くなるんです。"
    }
]
prompt = [
    f"{uttr['speaker']}: {uttr['text']}"
    for uttr in prompt
]
prompt = "<NL>".join(prompt)
prompt = (
    prompt
    + "<NL>"
    + "システム: "
)
print(prompt)
# "ユーザー: コンタクトレンズを慣れるにはどうすればよいですか？<NL>システム: これについて具体的に説明していただけますか？何が難しいのでしょうか？<NL>ユーザー: 目が痛いのです。<NL>システム: 分かりました、コンタクトレンズをつけると目がかゆくなるということですね。思った以上にレンズを外す必要があるでしょうか？<NL>ユーザー: いえ、レンズは外しませんが、目が赤くなるんです。<NL>システム: "

分词

模型使用基于sentencepiece的分词器：

• 分词器的词汇量为32,000。
• 它使用sentencepiece的字节回退功能，将未知文本片段分解为UTF - 8字节片段，避免产生<UNK>标记。
• sentencepiece的--add_dummy_prefix选项已关闭，因此不会自动添加前导空格。

print(tokenizer.tokenize("吾輩は猫である"))
# ['吾', '輩', 'は', '猫', 'である']
# 而不是像rinna/japanese-gpt-1b那样的['▁', '吾', '輩', 'は', '猫', 'である']

• sentencepiece的--remove_extra_whitespaces选项已关闭，因此会保留前导、尾随及重复的空格。

print(tokenizer.tokenize("  吾輩は  猫である   "))
# ['▁', '▁', '吾', '輩', 'は', '▁', '▁', '猫', 'である', '▁', '▁', '▁']
# 而不是像rinna/japanese-gpt-1b那样的['▁', '吾', '輩', 'は', '▁猫', 'である']

• 别忘了设置use_fast = False，以使上述功能正常工作。

good_tokenizer = AutoTokenizer.from_pretrained("rinna/japanese-gpt-neox-3.6b", use_fast=False)
bad_tokenizer = AutoTokenizer.from_pretrained("rinna/japanese-gpt-neox-3.6b")

print(good_tokenizer.decode(good_tokenizer.encode("გამარჯობა  吾輩は  猫である   ")))
# 'გამარჯობა  吾輩は  猫である   </s>'
print(bad_tokenizer.decode(bad_tokenizer.encode("გამარჯობა  吾輩は  猫である   ")))
# 'გამარ[UNK]ობა 吾輩は 猫である </s>'

引用方式

@misc{rinna-japanese-gpt-neox-3.6b-instruction-ppo,
    title = {rinna/japanese-gpt-neox-3.6b-instruction-ppo},
    author = {Zhao, Tianyu and Sawada, Kei},
    url = {https://huggingface.co/rinna/japanese-gpt-neox-3.6b-instruction-ppo}
}

@inproceedings{sawada2024release,
    title = {Release of Pre-Trained Models for the {J}apanese Language},
    author = {Sawada, Kei and Zhao, Tianyu and Shing, Makoto and Mitsui, Kentaro and Kaga, Akio and Hono, Yukiya and Wakatsuki, Toshiaki and Mitsuda, Koh},
    booktitle = {Proceedings of the 2024 Joint International Conference on Computational Linguistics, Language Resources and Evaluation (LREC-COLING 2024)},
    month = {5},
    year = {2024},
    pages = {13898--13905},
    url = {https://aclanthology.org/2024.lrec-main.1213},
    note = {\url{https://arxiv.org/abs/2404.01657}}
}

📄 许可证

本项目采用MIT许可证。