albert-base-v2-squad2オープンソース質疑応答モデル - 無回答の読解タスクを含む処理に長けています

ホーム

Albert Base V2 Squad2

twmkn9によって開発

ALBERT base v2アーキテクチャに基づき、SQuAD v2データセットで微調整された質問応答モデルで、無回答の場合を含む読解タスクを得意とする。

質問応答システム

Transformers

#質問応答システム #高精度マッチ率 #無回答識別

ダウンロード数 4,152

リリース時間 : 3/2/2022

モデル概要

このモデルは、機械読解タスクに最適化されたALBERTのバリエーションで、SQuAD v2データセットに含まれる無回答の複雑なシナリオに特に適合し、回答がある質問と無回答の質問の両方を処理できる。

モデル特徴

パラメータ効率最適化

ALBERTの層間パラメータ共有技術を採用し、性能を維持しながらパラメータ数を大幅に削減する。

無回答検出

SQuAD v2の無回答シナリオに特化して最適化され、回答できない質問を識別できる。

軽量デプロイ

基本版アーキテクチャはリソース制限のある環境でのデプロイに適しており、元のBERTと比べて約90％のパラメータを削減できる。

モデル能力

テキスト理解

質問回答

無回答判断

文脈推論

使用事例

教育技術

自動採点システム

学生の読解材料に対する理解度を自動評価する。

F1精度は81.89％に達することができる。

スマートカスタマーサポート

FAQ応答

知識ベースのドキュメントから質問の答えを見つける。

無回答の場合の識別精度は81.76％に達する。

🚀 [ALBERT base v2 モデル]

このモデルは、SQuAD v2 で学習された ALBERT base v2 です。このモデルを使用することで、質問応答タスクの効率化や精度向上が期待できます。

🚀 クイックスタート

このモデルをSQuAD v2で学習するには、以下のコマンドを実行します。

export SQUAD_DIR=../../squad2
python3 run_squad.py 
    --model_type albert 
    --model_name_or_path albert-base-v2 
    --do_train 
    --do_eval 
    --overwrite_cache 
    --do_lower_case 
    --version_2_with_negative 
    --save_steps 100000 
    --train_file $SQUAD_DIR/train-v2.0.json 
    --predict_file $SQUAD_DIR/dev-v2.0.json 
    --per_gpu_train_batch_size 8 
    --num_train_epochs 3 
    --learning_rate 3e-5 
    --max_seq_length 384 
    --doc_stride 128 
    --output_dir ./tmp/albert_fine/

💻 使用例

基本的な使用法

上記のコマンドを使用して、モデルを学習させることができます。

export SQUAD_DIR=../../squad2
python3 run_squad.py 
    --model_type albert 
    --model_name_or_path albert-base-v2 
    --do_train 
    --do_eval 
    --overwrite_cache 
    --do_lower_case 
    --version_2_with_negative 
    --save_steps 100000 
    --train_file $SQUAD_DIR/train-v2.0.json 
    --predict_file $SQUAD_DIR/dev-v2.0.json 
    --per_gpu_train_batch_size 8 
    --num_train_epochs 3 
    --learning_rate 3e-5 
    --max_seq_length 384 
    --doc_stride 128 
    --output_dir ./tmp/albert_fine/

評価結果

開発サブセットでのパフォーマンスは、元の論文に近い結果が得られました。

{
    'exact': 78.71010200723923, 
    'f1': 81.89228117126069, 
    'total': 6078, 
    'HasAns_exact': 75.39518900343643, 
    'HasAns_f1': 82.04167868004215, 
    'HasAns_total': 2910, 
    'NoAns_exact': 81.7550505050505, 
    'NoAns_f1': 81.7550505050505, 
    'NoAns_total': 3168, 
    'best_exact': 78.72655478775913, 
    'best_exact_thresh': 0.0, 
    'best_f1': 81.90873395178066, 
    'best_f1_thresh': 0.0
}