roberta - base - wechsel - ukrainianオープンソースNLPモデル - 複数のウクライナ語タスクで卓越した性能を発揮

Roberta Base Wechsel Ukrainian

benjaminによって開発

このモデルはWECHSEL手法を用いてroberta-baseをウクライナ語に転移したバージョンで、複数のウクライナ語NLPタスクで優れた性能を発揮します。

ダウンロード数 16

リリース時間 : 4/3/2022

モデル概要

英語roberta-baseモデルからWECHSEL多言語転移技術を用いて転移したウクライナ語事前学習モデルで、ウクライナ語自然言語処理タスクに適しています。

効率的な多言語転移

WECHSEL手法を用いて英語からウクライナ語への効率的なパラメータ転移を実現し、ゼロから学習するよりも優れた効果を発揮

優れたウクライナ語処理能力

ウクライナ語NERと品詞タグ付けタスクで同類モデルを凌駕

二重評価検証

lang-ukのner-ukプロジェクトやWikiANNウクライナ語セクションなど複数のデータセットで評価

ウクライナ語テキスト理解

固有表現認識

品詞タグ付け

自然言語処理

ウクライナ語テキストの固有表現認識

ウクライナ語テキスト中の人名、地名、組織名などの実体を認識

lang-uk NERテストセットで91.24 F1値を達成

ウクライナ語品詞タグ付け

ウクライナ語テキスト中の単語に品詞タグを付与

UDウクライナ語IUコーパスで98.74%の精度を達成

評価は、lang-ukのner-ukプロジェクト、WikiANN のウクライナ語部分、および Universal Dependenciesプロジェクトのウクライナ語IUコーパスを対象に行われました。評価結果は、異なるシードを用いた5回の実行の平均値です。

検証結果

	lang-uk NER (Micro F1)	WikiANN (Micro F1)	UDウクライナ語IU POS (Accuracy)
roberta-base-wechsel-ukrainian	88.06 (0.50)	92.96 (0.08)	98.70 (0.05)
roberta-large-wechsel-ukrainian	89.27 (0.53)	93.22 (0.15)	98.86 (0.03)

roberta-base-scratch-ukrainian*	85.49 (0.88)	91.91 (0.08)	98.49 (0.04)
roberta-large-scratch-ukrainian*	86.54 (0.70)	92.39 (0.16)	98.65 (0.09)

dbmdz/electra-base-ukrainian-cased-discriminator	87.49 (0.52)	93.20 (0.16)	98.60 (0.03)
xlm-roberta-base	86.68 (0.44)	92.41 (0.13)	98.53 (0.02)
xlm-roberta-large	86.64 (1.61)	93.01 (0.13)	98.71 (0.04)

テスト結果

	lang-uk NER (Micro F1)	WikiANN (Micro F1)	UDウクライナ語IU POS (Accuracy)
roberta-base-wechsel-ukrainian	90.81 (1.51)	92.98 (0.12)	98.57 (0.03)
roberta-large-wechsel-ukrainian	91.24 (1.16)	93.22 (0.17)	98.74 (0.06)

roberta-base-scratch-ukrainian*	89.57 (1.01)	92.05 (0.09)	98.31 (0.08)
roberta-large-scratch-ukrainian*	89.96 (0.89)	92.49 (0.15)	98.52 (0.04)

dbmdz/electra-base-ukrainian-cased-discriminator	90.43 (1.29)	92.99 (0.11)	98.59 (0.06)
xlm-roberta-base	90.86 (0.81)	92.27 (0.09)	98.45 (0.07)
xlm-roberta-large	90.16 (2.98)	92.92 (0.19)	98.71 (0.04)