Hedgehog

🚀 🦔 HEDGEhog 🦔: BERTベースのマルチクラス不確定性キュー認識

このモデルは、トークンレベルで4種類の異なる不確定性キュー（別名ヘッジ）を検出する、ファインチューニングされたマルチクラス分類モデルです。

🚀 クイックスタート

このモデルは、Simple Transformersライブラリを使用してファインチューニングされています。ただし、このライブラリはTransformersに基づいていますが、モデルをTransformersのpipelineやクラスと直接使用することはできません。そうすると、誤った出力が生成されます。このため、このページのAPIは無効になっています。

✨ 主な機能

• トークンレベルで4種類の不確定性キューを検出します。
• 以下の不確定性タイプを識別します。

📦 インストール

このモデルを使用するには、Simple Transformersライブラリをインストールする必要があります。

💻 使用例

基本的な使用法

from simpletransformers.ner import NERModel

model = NERModel(
    'bert',
    'jeniakim/hedgehog',
    use_cuda=False,
    labels=["C", "D", "E", "I", "N"],
)

example = "As much as I definitely enjoy solitude, I wouldn't mind perhaps spending little time with you (Björk)"
predictions, raw_outputs = model.predict([example])

予測結果は以下のようになります。

[[{'As': 'C'},
  {'much': 'C'},
  {'as': 'C'},
  {'I': 'C'},
  {'definitely': 'C'},
  {'enjoy': 'C'},
  {'solitude,': 'C'},
  {'I': 'C'},
  {"wouldn't": 'C'},
  {'mind': 'C'},
  {'perhaps': 'E'},
  {'spending': 'C'},
  {'little': 'C'},
  {'time': 'C'},
  {'with': 'C'},
  {'you': 'C'},
  {'(Björk)': 'C'}]]

つまり、トークン'perhaps'は認識論的不確定性キューとして認識され、他のトークンは不確定性キューではありません。

📚 ドキュメント

トレーニングデータ

HEDGEhogは、Szeged Uncertainty Corpus (Szarvas et al. 2012¹) でトレーニングおよび評価されています。このデータセットの元の文レベルのXMLバージョンはこちらから入手できます。

トレーニングに使用されたトークンレベルのバージョンは、こちらからpickle形式のpandas DataFrameとしてダウンロードできます。分割セット（train.pkl 137MB、test.pkl 17MB、dev.pkl 17MB）または完全なデータセット（szeged_fixed.pkl 172MB）をダウンロードすることができます。データフレームの各行には、トークン、その特徴（これらはHEDGEhogには関係ありません。ベースラインのCRFモデルをトレーニングするために使用されました。詳細はこちらを参照）、文ID、およびラベルが含まれています。

トレーニング手順

以下のトレーニングパラメータが使用されました。

• オプティマイザ: AdamW
• 学習率: 4e-5
• トレーニングエポック数: 1
• トレーニングバッチサイズ: 16

評価結果

🔧 技術詳細

このモデルはBERTベースのマルチクラス分類モデルで、Simple Transformersライブラリを使用してファインチューニングされています。

📄 ライセンス

このプロジェクトはMITライセンスの下で公開されています。

📖 参考文献

¹ Szarvas, G., Vincze, V., Farkas, R., Móra, G., & Gurevych, I. (2012). Cross-genre and cross-domain detection of semantic uncertainty. Computational Linguistics, 38(2), 335-367.