Literary German Bert

🚀 文学テキスト用ドイツ語BERT

このドイツ語BERTは、bert-base-german-dbmdz-casedに基づいており、ドイツ語小説コーパスを用いて言語モデリングタスクを微調整することで、文学テキストの領域に適合させています。その後、DROCコーパスを用いて固有表現認識のためにモデルを微調整したため、ドイツ語小説の主人公を認識するのに使用できます。

🚀 クイックスタート

このモデルは文学テキストに特化したドイツ語BERTです。言語モデリングと固有表現認識のタスクに適用できます。以下のセクションで詳細な統計情報をご紹介します。

✨ 主な機能

• ドイツ語文学テキストの言語モデリングに適しています。
• ドイツ語小説の主人公を認識する固有表現認識タスクに使用できます。

📚 ドキュメント

🔍 言語モデリング

ドイツ語小説コーパスは、3,194の文書で構成され、203,516,988トークンまたは1,520,855タイプを含んでいます。テキストの出版年は18世紀から20世紀までの範囲にあります。

📊 結果

1エポック後の結果は以下の通りです。

🔍 固有表現認識

提供されたモデルは、10,799文のトレーニングデータで2エポックの微調整を行い、547文で検証し、1,845文でテストを行いました。ラベルはB-PER、I-PER、Oの3種類です。

📊 結果

モデルはまた、10分割交差検証を使用して評価され、Jannidis et al. (2015)で説明されている古典的な条件付き確率場のベースラインと比較されています。

📄 参考文献

• Markus Krug, Lukas Weimer, Isabella Reger, Luisa Macharowsky, Stephan Feldhaus, Frank Puppe, Fotis Jannidis, Description of a Corpus of Character References in German Novels, 2018.
• Fotis Jannidis, Isabella Reger, Lukas Weimer, Markus Krug, Martin Toepfer, Frank Puppe, Automatische Erkennung von Figuren in deutschsprachigen Romanen, 2015.