FERNET C5

🚀 FERNET - C5

FERNET - C5（Flexible Embedding Representation NETwork）は、93GBのチェコ語のColossal Clean Crawled Corpus（C5）から事前学習された単言語のチェコ語BERTベースモデルです。詳細は論文をご覧ください。

また、RoBERTaアーキテクチャに基づくこのモデルの後継モデル fav - kky/FERNET - C5 - RoBERTa も公開しています。

📚 ドキュメント

論文

https://link.springer.com/chapter/10.1007/978-3-030-89579-2_3

論文のプレプリントは https://arxiv.org/abs/2107.10042 で入手できます。

引用

このモデルが役に立った場合、以下のように論文を引用してください。

@inproceedings{FERNETC5,
	title        = {Comparison of Czech Transformers on Text Classification Tasks},
	author       = {Lehe{\v{c}}ka, Jan and {\v{S}}vec, Jan},
	year         = 2021,
	booktitle    = {Statistical Language and Speech Processing},
	publisher    = {Springer International Publishing},
	address      = {Cham},
	pages        = {27--37},
	doi          = {10.1007/978-3-030-89579-2_3},
	isbn         = {978-3-030-89579-2},
	editor       = {Espinosa-Anke, Luis and Mart{\'i}n-Vide, Carlos and Spasi{\'{c}}, Irena}
}

📄 ライセンス

このモデルは、クリエイティブ・コモンズ 表示 - 非営利 - 継承 4.0 国際ライセンス（cc - by - nc - sa - 4.0）の下で提供されています。