Roberta Base RTE
roberta-baseアーキテクチャに基づき、TextAttackフレームワークを使用してGLUEデータセットでファインチューニングされたシーケンス分類モデル
ダウンロード数 29
リリース時間 : 3/2/2022
モデル概要
このモデルはテキストシーケンス分類タスク用の事前学習済みモデルで、特に自然言語理解タスクに適しています。敵対的訓練フレームワークTextAttackによるファインチューニングにより、分類タスクにおけるモデルの頑健性が向上しています。
モデル特徴
敵対的訓練による強化
TextAttackフレームワークによる敵対的訓練により、モデルの敵対的サンプルに対する頑健性が向上
GLUEデータセットでのファインチューニング
汎用言語理解評価ベンチマーク(GLUE)でファインチューニングされており、様々な自然言語理解タスクに適用可能
効率的な訓練設定
2e-05の学習率と128の最大シーケンス長を使用して最適化され、5エポックで最高の性能を達成
モデル能力
テキスト分類
自然言語理解
シーケンスラベリング
使用事例
テキスト分析
感情分析
テキスト内容の感情傾向を分類
検証セットで79.42%の精度を達成
トピック分類
テキストを事前定義されたトピックカテゴリに分類
おすすめAIモデル
Llama 3 Typhoon V1.5x 8b Instruct
タイ語専用に設計された80億パラメータの命令モデルで、GPT-3.5-turboに匹敵する性能を持ち、アプリケーションシナリオ、検索拡張生成、制限付き生成、推論タスクを最適化
大規模言語モデル
Transformers 複数言語対応

L
scb10x
3,269
16
Cadet Tiny
Openrail
Cadet-TinyはSODAデータセットでトレーニングされた超小型対話モデルで、エッジデバイス推論向けに設計されており、体積はCosmo-3Bモデルの約2%です。
対話システム
Transformers 英語

C
ToddGoldfarb
2,691
6
Roberta Base Chinese Extractive Qa
RoBERTaアーキテクチャに基づく中国語抽出型QAモデルで、与えられたテキストから回答を抽出するタスクに適しています。
質問応答システム 中国語
R
uer
2,694
98