Wangchan Sentiment Thai Text Model

🚀 wangchan-sentiment-thai-text-model

このモデルは、テキスト分類を行うためのモデルです。airesearch/wangchanberta-base-att-spm-uncased をファインチューニングして作成されています。評価セットでは、損失率0.5849、正解率0.7535を達成しています。

🚀 クイックスタート

このモデルは、テキスト分類タスクに使用できます。以下に、評価セットでの結果を示します。

• 損失率: 0.5849
• 正解率: 0.7535

📚 ドキュメント

モデルの詳細

このモデルは、airesearch/wangchanberta-base-att-spm-uncased をNoneデータセットでファインチューニングしたバージョンです。

想定される用途と制限

詳細情報は後日提供予定です。

学習と評価データ

詳細情報は後日提供予定です。

学習手順

学習ハイパーパラメータ

学習時には以下のハイパーパラメータが使用されました。

• 学習率 (learning_rate): 1e-05
• 学習バッチサイズ (train_batch_size): 16
• 評価バッチサイズ (eval_batch_size): 16
• シード値 (seed): 42
• オプティマイザ (optimizer): Adam (betas=(0.9,0.999), epsilon=1e-08)
• 学習率スケジューラの種類 (lr_scheduler_type): linear
• エポック数 (num_epochs): 5
• 混合精度学習 (mixed_precision_training): Native AMP

学習結果

フレームワークのバージョン

• Transformers: 4.44.2
• Pytorch: 2.4.1+cu121
• Datasets: 3.0.1
• Tokenizers: 0.19.1

📄 情報テーブル