Tielectra Small Sentiment

🚀 提格雷語情感分析模型TiELECTRA small

本模型是 TiELECTRA small 在提格雷語YouTube評論情感分析數據集（Tela等人，2020年）上的微調版本。

🚀 快速開始

基礎用法

from transformers import pipeline

ti_sent = pipeline("sentiment-analysis", model="fgaim/tielectra-small-sentiment")
ti_sent("ድምጻዊ ኣብርሃም ኣፈወርቂ ንዘልኣለም ህያው ኮይኑ ኣብ ልብና ይነብር")

✨ 主要特性

• 評估指標：支持F1值、精確率、召回率和準確率等評估指標。

📚 詳細文檔

訓練情況

超參數

訓練過程中使用了以下超參數：

• 學習率：2e - 05
• 訓練批次大小：32
• 評估批次大小：32
• 隨機種子：42
• 優化器：Adam，β值為(0.9, 0.999)，ε值為1e - 08
• 學習率調度器類型：線性
• 訓練輪數：3.0

評估結果

模型在評估集上取得了以下結果：

• F1值：0.8229
• 精確率：0.8056
• 召回率：0.841
• 準確率：0.819
• 損失值：0.4299

框架版本

• Transformers 4.10.3
• Pytorch 1.9.0 + cu111
• Datasets 1.10.2
• Tokenizers 0.10.1

引用說明

如果您在產品或研究中使用了此模型，請按以下方式引用：

@article{Fitsum2021TiPLMs,
  author={Fitsum Gaim and Wonsuk Yang and Jong C. Park},
  title={Monolingual Pre-trained Language Models for Tigrinya},
  year=2021,
  publisher= {WiNLP 2021/EMNLP 2021}
}

參考文獻

Tela, A., Woubie, A. and Hautamäki, V. 2020.
Transferring Monolingual Model to Low-Resource Language: The Case of Tigrinya.
ArXiv, abs/2006.07698.