🚀 二郎神 - MegatronBert - 1.3B - 情感分析模型
本模型是2021年登顶FewCLUE和ZeroCLUE的中文BERT在数个情感分析任务微调后的版本,可有效用于自然语言理解领域的情感分析任务。
🚀 快速开始
模型使用示例
from transformers import AutoModelForSequenceClassification
from transformers import BertTokenizer
import torch
tokenizer=BertTokenizer.from_pretrained('IDEA-CCNL/Erlangshen-MegatronBert-1.3B-Sentiment')
model=AutoModelForSequenceClassification.from_pretrained('IDEA-CCNL/Erlangshen-MegatronBert-1.3B-Sentiment')
text='今天心情不好'
output=model(torch.tensor([tokenizer.encode(text)]))
print(torch.nn.functional.softmax(output.logits,dim=-1))
相关链接
✨ 主要特性
本模型基于Erlangshen - MegatronBert - 1.3B,在收集的8个中文领域的情感分析数据集(总计227347个样本)上进行了微调,适用于通用自然语言理解领域的情感分析任务。
📦 模型分类
属性 |
详情 |
需求 |
通用 |
任务 |
自然语言理解(NLU) |
系列 |
二郎神 |
模型 |
MegatronBert |
参数 |
1.3B |
额外 |
情感分析 |
📚 详细文档
模型信息
基于Erlangshen - MegatronBert - 1.3B,我们在收集的8个中文领域的情感分析数据集,总计227347个样本上微调了一个情感分析版本。
下游效果
模型 |
ASAP - SENT |
ASAP - ASPECT |
ChnSentiCorp |
Erlangshen - Roberta - 110M - Sentiment |
97.77 |
97.31 |
96.61 |
Erlangshen - Roberta - 330M - Sentiment |
97.9 |
97.51 |
96.66 |
Erlangshen - MegatronBert - 1.3B - Sentiment |
98.1 |
97.8 |
97 |
📄 许可证
本模型使用的是Apache - 2.0许可证。
📖 引用
如果您在您的工作中使用了我们的模型,可以引用我们的论文:
@article{fengshenbang,
author = {Jiaxing Zhang and Ruyi Gan and Junjie Wang and Yuxiang Zhang and Lin Zhang and Ping Yang and Xinyu Gao and Ziwei Wu and Xiaoqun Dong and Junqing He and Jianheng Zhuo and Qi Yang and Yongfeng Huang and Xiayu Li and Yanghan Wu and Junyu Lu and Xinyu Zhu and Weifeng Chen and Ting Han and Kunhao Pan and Rui Wang and Hao Wang and Xiaojun Wu and Zhongshen Zeng and Chongpei Chen},
title = {Fengshenbang 1.0: Being the Foundation of Chinese Cognitive Intelligence},
journal = {CoRR},
volume = {abs/2209.02970},
year = {2022}
}
也可以引用我们的网站:
@misc{Fengshenbang-LM,
title={Fengshenbang-LM},
author={IDEA-CCNL},
year={2021},
howpublished={\url{https://github.com/IDEA-CCNL/Fengshenbang-LM}},
}