Econodetect US

🚀 EconoDetect

このモデルは、経済関連性データセットでsamchain/econo-sentence-v2をファインチューニングしたバージョンです。学習中はベースモデルを凍結し、分類ヘッドのみを更新します。

評価セットでは以下の結果を達成しています：

• 損失: 0.3973
• 正解率: 0.8211
• F1値: 0.7991
• 適合率: 0.7895
• 再現率: 0.8211

✨ 主な機能

このモデルは、テキストが米国経済に関連するトピックを扱っているかどうかを検出するように設計されています。

📚 ドキュメント

想定される用途と制限

このモデルは、米国経済に関係のないテキストを除外するためのスクリーニングツールとして使用できます。

学習と評価データ

学習手順

学習ハイパーパラメータ

学習中に以下のハイパーパラメータが使用されました：

• 学習率: 0.0005
• 学習バッチサイズ: 8
• 評価バッチサイズ: 16
• シード: 42
• オプティマイザ: betas=(0.9,0.999)、epsilon=1e-08のadamw_torchを使用。追加のオプティマイザ引数はありません
• 学習率スケジューラの種類: 線形
• 学習率スケジューラのウォームアップステップ: 100
• エポック数: 3

学習結果

フレームワークバージョン

• Transformers 4.50.0
• Pytorch 2.1.0+cu118
• Datasets 3.4.1
• Tokenizers 0.21.1

📄 ライセンス

このモデルはApache-2.0ライセンスの下で提供されています。