Roberta Base Japanese Jsnli

🚀 roberta-base-japanese-jsnli

该模型是 nlp-waseda/roberta-base-japanese 在 JSNLI 数据集上的微调版本。它在评估集上取得了以下结果：

• 损失值：0.2039
• 准确率：0.9328

🚀 快速开始

本模型可用于文本分类任务，在自然语言推理任务上表现良好。使用前需提前了解输入文本的预处理要求。

✨ 主要特性

• 多标签分类：支持零样本分类，可对文本进行多标签分类。
• 自然语言推理：在自然语言推理任务中表现出色。
• 微调模型：基于预训练的日语 RoBERTa 模型进行微调。

📦 安装指南

使用该模型前，你需要安装所需的库。可以使用以下命令进行安装：

pip install transformers pyknp datasets tokenizers torch

💻 使用示例

基础用法

输入文本应提前使用 Juman++ 进行分词处理。以下是一个简单的零样本分类管道示例：

from transformers import pipeline
from pyknp import Juman

juman = Juman()

classifier = pipeline("zero-shot-classification", model="Formzu/roberta-base-japanese-jsnli")

sequence_to_classify = " ".join([tok.midasi for tok in juman.analysis("いつか世界を見る。").mrph_list()])

candidate_labels = ['旅行', '料理', '踊り']
out = classifier(sequence_to_classify, candidate_labels, hypothesis_template="この 例 は {} です 。")
print(out)
#{'sequence': 'いつか 世界 を 見る 。', 
# 'labels': ['旅行', '踊り', '料理'], 
# 'scores': [0.8998081684112549, 0.06059670448303223, 0.03959512338042259]}

高级用法

以下是一个自然语言推理用例：

from transformers import AutoTokenizer, AutoModelForSequenceClassification
import torch
from pyknp import Juman

juman = Juman()

device = torch.device("cuda") if torch.cuda.is_available() else torch.device("cpu")

model_name = "Formzu/roberta-base-japanese-jsnli"
model = AutoModelForSequenceClassification.from_pretrained(model_name).to(device)
tokenizer = AutoTokenizer.from_pretrained(model_name)

premise = " ".join([tok.midasi for tok in juman.analysis("いつか世界を見る。").mrph_list()])
label = '旅行'
hypothesis = f'この 例 は {label} です 。'

input = tokenizer.encode(premise, hypothesis, return_tensors='pt').to(device)
with torch.no_grad():
    logits = model(input)["logits"][0]
    probs = logits.softmax(dim=-1)
    print(probs.cpu().numpy(), logits.cpu().numpy())
#[0.82168734 0.1744363  0.00387629] [ 2.3362164   0.78641605 -3.0202653 ]

📚 详细文档

训练过程

训练超参数

训练过程中使用了以下超参数：

训练结果

框架版本

• Transformers 4.21.2
• Pytorch 1.12.1+cu116
• Datasets 2.4.0
• Tokenizers 0.12.1

📄 许可证

本项目采用 CC BY-SA 4.0 许可证。