R

Roberta Base RTE

textattackによって開発
roberta-baseアーキテクチャに基づき、TextAttackフレームワークを使用してGLUEデータセットでファインチューニングされたシーケンス分類モデル
ダウンロード数 29
リリース時間 : 3/2/2022

モデル概要

このモデルはテキストシーケンス分類タスク用の事前学習済みモデルで、特に自然言語理解タスクに適しています。敵対的訓練フレームワークTextAttackによるファインチューニングにより、分類タスクにおけるモデルの頑健性が向上しています。

モデル特徴

敵対的訓練による強化
TextAttackフレームワークによる敵対的訓練により、モデルの敵対的サンプルに対する頑健性が向上
GLUEデータセットでのファインチューニング
汎用言語理解評価ベンチマーク(GLUE)でファインチューニングされており、様々な自然言語理解タスクに適用可能
効率的な訓練設定
2e-05の学習率と128の最大シーケンス長を使用して最適化され、5エポックで最高の性能を達成

モデル能力

テキスト分類
自然言語理解
シーケンスラベリング

使用事例

テキスト分析
感情分析
テキスト内容の感情傾向を分類
検証セットで79.42%の精度を達成
トピック分類
テキストを事前定義されたトピックカテゴリに分類
AIbase
未来を切り開く、あなたのAIソリューション知識ベース
© 2025AIbase