Distilbert Base Financial Relation Extraction

🚀 FReE (Financial Relation Extraction)

FReEは、金融関係のタイプ検出と分類のために、独自の金融データセットでファインチューニングされたDistilBERTベースのモデルです。このモデルは、金融用語間の関係を検出し、その関係の種類を特定することができます。

🚀 クイックスタート

FReEは、金融用語間の関係の有無を検出し、関係が存在する場合にはその関係を特定します。以下に具体的なユースケースを示します。

• An A - B trust is a joint trust created by a married couple for the purpose of minimizing estate taxes. (関係 存在する, タイプ: is)
• There are no withdrawal penalties. (関係 存在しない, タイプ: x)

✨ 主な機能

データ

データは、さまざまなソース（Wikimedia、IFRS、Investopedia）から収集された金融指標の定義で構成されています。各定義は文に分割され、文内の用語間の関係はStanford Open Information Extractionモジュールを使用して抽出されています。データセットの典型的な行は、定義文とそれに対応する関係ラベルで構成されています。ラベルは、最も広く識別される5つの関係、すなわちx（関係なし）、has、is in、is、areに制限されています。

モデル

使用されているモデルは、Hugging Faceライブラリの標準的なDistilBERT - baseトランスフォーマーモデルです。モデルの詳細については、HUGGING FACE DistilBERT base modelを参照してください。また、このモデルは事前学習されており、既存の事前学習済みの標準モデルからロードした場合には使用されない重みを初期化しています。

評価指標

評価指標として、Precision、Recall、F1 - scoreが使用されています。以下は、テストセットに対する分類レポートです。