Khmer Sentiment Xlm Roberta Base

🚀 クメール語の金融センチメント分析におけるXLM - RoBERTaの活用

このリポジトリには、[XLM - RoBERTa - base](https://huggingface.co/xlm - roberta - base) モデルをファインチューニングしたバージョンが含まれています。このモデルは、金融分野におけるクメール語のセンチメント分析用に特別に訓練されています。モデルは約4,000件の金融テキストサンプルのデータセットでファインチューニングされ、テストセットには400件のサンプルが含まれています。

🚀 クイックスタート

このモデルは、クメール語の金融テキストのセンチメントを分析するために設計されています。以下のセクションでは、モデルの詳細、訓練データ、訓練設定、結果、および使用方法について説明します。

✨ 主な機能

• クメール語の金融テキストのセンチメントを正負の2値分類で予測します。
• 金融分野の用語を考慮したファインチューニングにより、高い精度でセンチメントを分類します。

📦 インストール

このモデルを使用するには、transformers ライブラリが必要です。以下のコマンドでインストールできます。

pip install transformers torch

💻 使用例

基本的な使用法

from transformers import AutoTokenizer, AutoModelForSequenceClassification
import torch

# Load the fine - tuned Khmer financial sentiment model
model_name = "songhieng/khmer - sentiment - xlm - roberta - base"

# Load tokenizer and model
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForSequenceClassification.from_pretrained(model_name)

# Example Khmer financial text
text = "ការប្រកាសចំណូលរបស់ក្រុមហ៊ុនមានការកើនឡើងយ៉ាងច្រើន"
inputs = tokenizer(text, return_tensors="pt", truncation=True, max_length=512)
outputs = model(**inputs)

# Get predicted sentiment (0 = Negative, 1 = Positive)
predicted_class = outputs.logits.argmax(dim=1).item()
labels_mapping = {0: "Negative", 1: "Positive"}
print(f"Predicted Sentiment: {labels_mapping[predicted_class]}")

📚 ドキュメント

モデル詳細

訓練データ

モデルは、以下のようなクメール語の金融テキストのデータセットを使用してファインチューニングされました。

• 銀行レポート
• 金融ニュース記事
• 経済予測
• 投資分析

データセットは、訓練用の4,000件のラベル付きサンプルとテスト用の400件のサンプルで構成されています。

訓練詳細

モデルは、XLM - RoBERTa - base を事前学習モデルとして、3エポックにわたってファインチューニングされました。

訓練設定:

• 学習率: 2e - 5
• バッチサイズ: 8
• オプティマイザ: AdamW
• 評価戦略: エポックごと
• 損失関数: CrossEntropyLoss

結果

• 正解率: 検証セットで約96%。
• 高い性能: モデルはクメール語の金融センチメントを効果的に分類します。
• ドメイン固有の最適化: ファインチューニングにより、クメール語の金融用語をより深く理解できます。

📄 ライセンス

このプロジェクトはMITライセンスの下で公開されています。