Transformers Ud Japanese Electra Base Ginza 510

🚀 transformers-ud-japanese-electra-ginza-510 (sudachitra-wordpiece, mC4 Japanese)

本項目是一個基於ELECTRA架構的模型。它在從mC4中提取的約2億個日語句子上進行了預訓練，並在UD_Japanese_BCCWJ r2.8上使用spaCy v3進行了微調。該模型能夠有效處理日語相關的自然語言處理任務，為日語處理提供了強大的支持。

🚀 快速開始

整個spaCy v3模型作為一個名為ja_ginza_electra的Python包從PyPI分發，同時它還與GiNZA v5一起使用，後者提供了一些自定義的管道組件來識別日語的文節短語結構。你可以按如下方式運行：

$ pip install ginza ja_ginza_electra
$ ginza

📄 許可證

這些模型根據MIT許可證進行分發。

👏 致謝

本模型是在日本國立國語研究所（NINJAL）和東京Megagon實驗室的聯合研究協議下，根據MIT許可證發佈的。

📚 引用

• mC4

包含來自mC4的信息，該數據集根據ODC歸屬許可證提供。

@article{2019t5,
    author = {Colin Raffel and Noam Shazeer and Adam Roberts and Katherine Lee and Sharan Narang and Michael Matena and Yanqi Zhou and Wei Li and Peter J. Liu},
    title = {Exploring the Limits of Transfer Learning with a Unified Text-to-Text Transformer},
    journal = {arXiv e-prints},
    year = {2019},
    archivePrefix = {arXiv},
    eprint = {1910.10683},
}

• UD_Japanese_BCCWJ r2.8

Asahara, M., Kanayama, H., Tanaka, T., Miyao, Y., Uematsu, S., Mori, S.,
Matsumoto, Y., Omura, M., & Murawaki, Y. (2018).
Universal Dependencies Version 2 for Japanese.
In LREC-2018.

• GSK2014-A(2019)