Camembert Sentiment Allocine

🚀 カメンベルト・センチメント・アロシン

このモデルは、allocineデータセットでcamembert-baseをファインチューニングしたバージョンです。このモデルは、テキストのセンチメント分析に役立ち、アロシンのデータを使って学習されています。

🚀 クイックスタート

このモデルは、テキストのセンチメント分析に使用できます。以下の手順で始めることができます。

✨ 主な機能

• アロシンデータセットを用いたセンチメント分析が可能です。
• カメンベルトベースモデルをファインチューニングしているため、高精度な分析が期待できます。

📦 インストール

このREADMEには具体的なインストール手順が記載されていないため、このセクションを省略します。

💻 使用例

このREADMEには具体的なコード例が記載されていないため、このセクションを省略します。

📚 ドキュメント

想定される用途と制限

このモデルは、テスト目的で1エポックだけ学習させたものです。

学習手順

このモデルは、TensorFlowバージョンのcamembert-baseを、エンコーダ部分を凍結した後にファインチューニングすることで作成されました。

model.roberta.trainable = False

したがって、学習中に更新されたのは分類器ヘッドのパラメータのみです。

学習ハイパーパラメータ

学習中に使用されたハイパーパラメータは以下の通りです。

- optimizer: {
     'name': 'Adam', 
     'learning_rate': {
         'class_name': 'PolynomialDecay', 
         'config': {'initial_learning_rate': 5e-05, 'decay_steps': 15000, 'end_learning_rate': 0.0, 'power': 1.0, 'cycle': False, 'name': None}
      }, 
      'decay': 0.0, 
      'beta_1': 0.9, 
      'beta_2': 0.999, 
      'epsilon': 1e-07, 
      'amsgrad': False
}
- training_precision: float32
- epochs: 1

学習結果

このモデルは、テストセットで以下の結果を達成しています。

フレームワークバージョン

• Transformers 4.22.2
• TensorFlow 2.8.2
• Datasets 2.5.2
• Tokenizers 0.12.1

🔧 技術詳細

このモデルは、TensorFlowでの学習に特化しており、エンコーダ部分を凍結することで、分類器ヘッドのみを学習させています。これにより、学習時間を短縮しつつ、高精度なセンチメント分析を実現しています。

📄 ライセンス

このモデルはMITライセンスの下で提供されています。