Movie Roberta Squad

🚀 roberta-base + DAPT + 特定領域問答

本項目基於在電影語料庫上進行領域自適應預訓練的 Roberta Base 模型，之後更換模型頭部以執行 SQuAD 任務，從而構建了一個能夠回答電影領域問題的問答模型。使用了 MovieRoberta 作為基礎模型。

🚀 快速開始

model_name = "thatdramebaazguy/movie-roberta-squad"
pipeline(model=model_name, tokenizer=model_name, revision="v1.0", task="question-answering")

✨ 主要特性

• 數據集：使用了多個數據集，包括 imdb、cornell_movie_dialogue 和 SQuAD 等。
• 語言：支持英文。
• 標籤：項目涉及 roberta、roberta-base、question-answering、qa、movies 等標籤。
• 許可證：採用 cc-by-4.0 許可證。

📚 詳細文檔

模型概述

超參數

Num examples = 88567  
Num Epochs = 10
Instantaneous batch size per device = 32  
Total train batch size (w. parallel, distributed & accumulation) = 32  

性能表現

MoviesQA 評估

• 評估樣本數 = 5032
• 精確匹配率 = 51.64944
• F1 值 = 65.53983

SQuADv1 評估

• 精確匹配率 = 81.23936
• F1 值 = 89.27827

代碼倉庫

• 領域自適應項目

📄 許可證

本項目採用 cc-by-4.0 許可證。