Finbert PT BR

🚀 FinBERT-PT-BR : ブラジルポルトガル語の金融用BERT

FinBERT-PT-BRは、ブラジルポルトガル語の金融テキストの感情分析を行うための事前学習済みNLPモデルです。

このモデルは、言語モデリングと感情モデリングの2つの主要な段階で学習されました。最初の段階では、ポルトガル語の金融ニュースの140万を超えるテキストで言語モデルが学習されました。 この最初の学習から、少数のラベル付きテキスト（500）で感情分類器を構築することができ、満足できる収束を示しました。

研究の最後には、他のモデルとの比較分析と、開発されたモデルの可能な応用が提示されています。 比較分析では、開発されたモデルが最先端の現行モデルよりも優れた結果を示したことが観察されました。 応用例としては、感情指数の構築、投資戦略、インフレなどのマクロ経済データ分析にこのモデルを使用できることが示されています。

✨ 主な機能

感情指数

💻 使用例

基本的な使用法

from transformers import AutoTokenizer, BertForSequenceClassification
import numpy as np
  
pred_mapper = {
    0: "POSITIVE",
    1: "NEGATIVE",
    2: "NEUTRAL"
  }

tokenizer = AutoTokenizer.from_pretrained("lucas-leme/FinBERT-PT-BR")
finbertptbr = BertForSequenceClassification.from_pretrained("lucas-leme/FinBERT-PT-BR")

tokens = tokenizer(["Hoje a bolsa caiu", "Hoje a bolsa subiu"], return_tensors="pt",
                    padding=True, truncation=True, max_length=512)
finbertptbr_outputs = finbertptbr(**tokens)

preds = [pred_mapper[np.argmax(pred)] for pred in finbertptbr_outputs.logits.cpu().detach().numpy()]

高度な使用法

from transformers import (
    AutoTokenizer, 
    BertForSequenceClassification,
    pipeline,
)

finbert_pt_br_tokenizer = AutoTokenizer.from_pretrained("lucas-leme/FinBERT-PT-BR")
finbert_pt_br_model = BertForSequenceClassification.from_pretrained("lucas-leme/FinBERT-PT-BR")

finbert_pt_br_pipeline = pipeline(task='text-classification', model=finbert_pt_br_model, tokenizer=finbert_pt_br_tokenizer)
finbert_pt_br_pipeline(['Hoje a bolsa caiu', 'Hoje a bolsa subiu'])

📄 ライセンス

Apache-2.0

👤 作者

• Lucas Leme - lucaslssantos99@gmail.com

📚 引用

@inproceedings{santos2023finbert,
  title={FinBERT-PT-BR: An{\'a}lise de Sentimentos de Textos em Portugu{\^e}s do Mercado Financeiro},
  author={Santos, Lucas L and Bianchi, Reinaldo AC and Costa, Anna HR},
  booktitle={Anais do II Brazilian Workshop on Artificial Intelligence in Finance},
  pages={144--155},
  year={2023},
  organization={SBC}
}

📃 論文

• 論文: FinBERT-PT-BR: Sentiment Analysis of Texts in Portuguese from the Financial Market
• 卒業論文: FinBERT-PT-BR: Análise de sentimentos de textos em português referentes ao mercado financeiro