BERT PT Rest

🚀 ReviewBERT

ReviewBERT是基於評論語料對BERT進行（後）訓練得到的模型，能夠理解情感、選項以及各種電商相關方面的信息。

BERT-DK_rest 是基於來自Yelp的1G（19種類型）餐廳數據進行訓練的。 BERT-PT_* 還額外使用了SQuAD 1.1數據集。

🚀 快速開始

加載預訓練權重非常簡單，示例代碼如下：

import torch
from transformers import AutoModel, AutoTokenizer

tokenizer = AutoTokenizer.from_pretrained("activebus/BERT-PT_rest")
model = AutoModel.from_pretrained("activebus/BERT-PT_rest")

✨ 主要特性

• 基於評論語料對BERT進行（後）訓練，能夠更好地理解情感、選項和電商相關信息。
• BERT-DK_rest 採用Yelp的餐廳數據進行訓練。
• BERT-PT_* 額外使用了SQuAD 1.1數據集。

📚 詳細文檔

模型描述

原始模型來自基於Wikipedia + BookCorpus訓練的 BERT-base-uncased。模型基於亞馬遜數據集和Yelp數據集進行後訓練。

評估結果

查看我們的NAACL論文。

📄 許可證

引用

如果您覺得這項工作有用，請按以下格式進行引用：

@inproceedings{xu_bert2019,
    title = "BERT Post-Training for Review Reading Comprehension and Aspect-based Sentiment Analysis",
    author = "Xu, Hu and Liu, Bing and Shu, Lei and Yu, Philip S.",
    booktitle = "Proceedings of the 2019 Conference of the North American Chapter of the Association for Computational Linguistics",
    month = "jun",
    year = "2019",
}