Roberta Base Topic Classification Nyt News

🚀 roberta-base_topic_classification_nyt_news

このモデルは、NYT Newsデータセット（2000年から現在までに公開された記事の256,000件のニュースタイトルを含む、https://www.kaggle.com/datasets/aryansingh0909/nyt-articles-21m-2000-present）でroberta-baseを微調整したバージョンです。 51,200件のテストセットで以下の結果を達成しています：

• 正解率: 0.91
• F1値: 0.91
• 適合率: 0.91
• 再現率: 0.91

🚀 クイックスタート

このモデルは、NYT Newsデータセットを用いてroberta-baseを微調整したもので、ニュースのトピック分類に使用できます。以下のコードで簡単に使用できます。

from transformers import AutoTokenizer, AutoModelForSequenceClassification
from transformers import pipeline

tokenizer = AutoTokenizer.from_pretrained("dstefa/roberta-base_topic_classification_nyt_news")
model = AutoModelForSequenceClassification.from_pretrained("dstefa/roberta-base_topic_classification_nyt_news")
pipe = pipeline("text-classification", model=model, tokenizer=tokenizer)

text = "Kederis proclaims innocence Olympic champion Kostas Kederis today left hospital ahead of his date with IOC inquisitors claiming his innocence and vowing."
pipe(text)

[{'label': 'Sports', 'score': 0.9989326596260071}]

✨ 主な機能

• ニュース記事のトピック分類が可能です。
• 高い正解率、F1値、適合率、再現率を達成しています。

📦 インストール

このモデルを使用するには、必要なライブラリをインストールする必要があります。以下のコマンドを使用してインストールできます。

pip install transformers datasets torch tokenizers

📚 ドキュメント

学習データ

学習データは以下のように分類されています：

学習手順

学習ハイパーパラメータ

学習中に以下のハイパーパラメータが使用されました：

• 学習率: 5e-05
• 学習バッチサイズ: 8
• 評価バッチサイズ: 8
• シード: 42
• オプティマイザ: Adam（ベータ=(0.9,0.999)、イプシロン=1e-08）
• 学習率スケジューラのタイプ: 線形
• 学習率スケジューラのウォームアップステップ: 500
• エポック数: 5

学習結果

モデルの性能

HuggingFaceでの使用方法

from transformers import AutoTokenizer, AutoModelForSequenceClassification
from transformers import pipeline

tokenizer = AutoTokenizer.from_pretrained("dstefa/roberta-base_topic_classification_nyt_news")
model = AutoModelForSequenceClassification.from_pretrained("dstefa/roberta-base_topic_classification_nyt_news")
pipe = pipeline("text-classification", model=model, tokenizer=tokenizer)

text = "Kederis proclaims innocence Olympic champion Kostas Kederis today left hospital ahead of his date with IOC inquisitors claiming his innocence and vowing."
pipe(text)

[{'label': 'Sports', 'score': 0.9989326596260071}]

フレームワークのバージョン

• Transformers 4.32.1
• Pytorch 2.1.0+cu121
• Datasets 2.12.0
• Tokenizers 0.13.2

📄 ライセンス

このモデルはMITライセンスの下で提供されています。