Econosentiment

🚀 EconoSentiment

EconoSentiment 是一個用於金融情感分析的模型，它基於特定基礎模型在金融相關數據集上微調而來，能為金融領域的情感分析任務提供有效支持，具有較高的準確率和性能表現。

🚀 快速開始

本模型是 samchain/econo-sentence-v2 在 FinanceMTEB 的 Financial Phrase Bank 數據集上的微調版本。完整模型訓練時使用了較小的學習率，而非凍結編碼器。因此，除情感分析任務外，不應將此模型的編碼器用於其他任務。

該模型在評估集上取得了以下結果：

• 損失值：0.1293
• 準確率：0.962
• F1 值：0.9619
• 精確率：0.9619
• 召回率：0.962

✨ 主要特性

• 基於 EconoBert 構建的 sentence-transformers 基礎模型。
• 針對金融領域的情感分析進行了微調，能有效處理金融文本的情感分類。

📚 詳細文檔

模型描述

基礎模型是一個基於 EconoBert 構建的 sentence-transformers 模型。

預期用途與限制

此模型經過訓練，旨在為金融領域的情感分析提供實用工具。

訓練和評估數據

數據集直接從 FinanceMTEB 的 huggingface 倉庫下載。預處理包括將文本分詞為固定長度為 512 個標記的序列。

訓練過程

訓練超參數

訓練期間使用了以下超參數：

• 學習率：3e - 05
• 訓練批次大小：8
• 評估批次大小：16
• 隨機種子：42
• 優化器：使用 adamw_torch，其中 betas = (0.9, 0.999)，epsilon = 1e - 08，無額外優化器參數
• 學習率調度器類型：線性
• 學習率調度器熱身步數：100
• 訓練輪數：2

訓練結果

框架版本

• Transformers 4.50.0
• Pytorch 2.1.0 + cu118
• Datasets 3.4.1
• Tokenizers 0.21.1

📄 許可證

本模型採用 Apache - 2.0 許可證。