Paraphrase Roberta Es

🚀 Prompsit/paraphrase-roberta-es

該模型可用於評估給定短語的釋義。我們基於預訓練的“PlanTL - GOB - ES/roberta - base - bne”對該模型進行了微調。此模型是在TSI - 100905 - 2019 - 4項目下構建的，由西班牙政府經濟事務與數字轉型部共同資助。

🚀 快速開始

此模型用於回答以下問題：“短語B”是否是“短語A”的釋義。

請注意，我們考慮的是短語而非句子。因此，必須注意該模型不期望輸入中有標點符號或長篇文本。

輸出的概率對應以下類別：

• 0：不是釋義
• 1：是釋義

📦 安裝指南

安裝所需的庫：

pip install torch transformers

💻 使用示例

基礎用法

以下是使用該模型的示例代碼，考慮短語“se buscarán acuerdos”和候選釋義“se deberá obtener el acuerdo”：

import torch
from transformers import AutoTokenizer, AutoModelForSequenceClassification
# 加載分詞器
tokenizer = AutoTokenizer.from_pretrained("Prompsit/paraphrase-roberta-es")
# 加載模型
model = AutoModelForSequenceClassification.from_pretrained("Prompsit/paraphrase-roberta-es")

# 對輸入進行分詞處理
input = tokenizer('se buscarán acuerdos','se deberá obtener el acuerdo',return_tensors='pt')
# 模型推理得到logits
logits = model(**input).logits
# 使用Softmax函數將logits轉換為概率
soft = torch.nn.Softmax(dim=1)
# 打印概率
print(soft(logits))

代碼輸出如下：

tensor([[0.2266, 0.7734]], grad_fn=<SoftmaxBackward>)

由於類別1（是釋義）的概率為0.77，類別0（不是釋義）的概率為0.22，因此對於上述示例，我們可以得出“se deberá obtener el acuerdo”是“se buscarán acuerdos”的釋義。

📚 詳細文檔

評估結果

我們使用了16500對人工標註的短語對作為測試數據集，得到的評估指標如下：

metrics={
 'test_loss': 0.4869941473007202, 
 'test_accuracy': 0.8003636363636364, 
 'test_precision': 0.6692456479690522, 
 'test_recall': 0.5896889646357052, 
 'test_f1': 0.6269535673839184, 
 'test_matthews_correlation': 0.49324489316659575, 
 'test_runtime': 27.1537, 
 'test_samples_per_second': 607.652, 
 'test_steps_per_second': 19.003
 }