Japanese Gpt2 Medium

🚀 日語GPT-2中型模型

本項目提供了一箇中型日語GPT - 2模型。該模型由rinna株式會社使用Github倉庫rinnakk/japanese-pretrained-models中的代碼進行訓練。

🚀 快速開始

模型使用方法

from transformers import AutoTokenizer, AutoModelForCausalLM

tokenizer = AutoTokenizer.from_pretrained("rinna/japanese-gpt2-medium", use_fast=False)
tokenizer.do_lower_case = True  # due to some bug of tokenizer config loading

model = AutoModelForCausalLM.from_pretrained("rinna/japanese-gpt2-medium")

✨ 主要特性

模型架構

這是一個基於Transformer的語言模型，具有24層，隱藏層大小為1024。

訓練情況

該模型在日語CC - 100和日語維基百科上進行訓練，以優化傳統的語言建模目標。訓練使用了8 * V100 GPU，歷時約30天。在從相同數據中選取的驗證集上，該模型的困惑度約為18。

分詞方法

模型使用基於sentencepiece的分詞器，其詞彙表是使用官方的sentencepiece訓練腳本在日語維基百科上訓練得到的。

發佈日期

2021年4月7日（更新日期：2021年8月25日）

📚 詳細文檔

引用方式

@misc{rinna-japanese-gpt2-medium,
    title = {rinna/japanese-gpt2-medium},
    author = {Zhao, Tianyu and Sawada, Kei},
    url = {https://huggingface.co/rinna/japanese-gpt2-medium}
}

@inproceedings{sawada2024release,
    title = {Release of Pre-Trained Models for the {J}apanese Language},
    author = {Sawada, Kei and Zhao, Tianyu and Shing, Makoto and Mitsui, Kentaro and Kaga, Akio and Hono, Yukiya and Wakatsuki, Toshiaki and Mitsuda, Koh},
    booktitle = {Proceedings of the 2024 Joint International Conference on Computational Linguistics, Language Resources and Evaluation (LREC-COLING 2024)},
    month = {5},
    year = {2024},
    pages = {13898--13905},
    url = {https://aclanthology.org/2024.lrec-main.1213},
    note = {\url{https://arxiv.org/abs/2404.01657}}
}

📄 許可證

本項目採用MIT許可證。