Paraphrase Bert Pt

🚀 Prompsit/paraphrase-bert-pt

該模型可用於評估給定短語的釋義情況，基於預訓練模型微調而來，能有效判斷短語間是否為釋義關係。

🚀 快速開始

此模型用於回答 “短語 B” 是否是 “短語 A” 的釋義這一問題。需要注意的是，這裡考慮的是短語而非句子，所以模型不期望輸入中包含標點符號或長篇文本。

輸出的概率對應以下類別：

• 0：非釋義
• 1：是釋義

例如，對於短語 “logo após o homicídio” 和候選釋義 “pouco depois do assassinato”，可以按以下方式使用模型：

import torch

from transformers import AutoTokenizer, AutoModelForSequenceClassification
tokenizer = AutoTokenizer.from_pretrained("Prompsit/paraphrase-bert-pt")
model = AutoModelForSequenceClassification.from_pretrained("Prompsit/paraphrase-bert-pt")

input = tokenizer('logo após o homicídio', 'pouco depois do assassinato', return_tensors='pt')
logits = model(**input).logits
soft = torch.nn.Softmax(dim=1)
print(soft(logits))

代碼輸出如下：

tensor([[0.2137, 0.7863]], grad_fn=<SoftmaxBackward>)

由於類別 1（是釋義）的概率為 0.7863，類別 0（非釋義）的概率為 0.2137，因此可以得出結論，“pouco depois do assassinato” 是 “logo após o homicidio” 的釋義。

✨ 主要特性

• 基於預訓練的 “neuralmind/bert-base-portuguese-cased” 模型進行微調。
• 能夠有效判斷短語間是否為釋義關係。

📚 詳細文檔

模型背景

該模型是在 TSI - 100905 - 2019 - 4 項目下構建的，由西班牙政府經濟事務和數字轉型部共同資助。

評估結果

使用 16500 對人工標註的短語對作為測試數據集，得到的評估指標如下：

metrics = {
    'test_loss': 0.6074697375297546, 
    'test_accuracy': 0.7809, 
    'test_precision': 0.7157638466220329, 
    'test_recall': 0.40551724137931033, 
    'test_f1': 0.5177195685670262, 
    'test_matthews_correlation': 0.41603913834665324, 
    'test_runtime': 16.4585, 
    'test_samples_per_second': 607.587, 
    'test_steps_per_second': 19.017
}

⚠️ 重要提示

模型輸入為短語，不期望輸入中包含標點符號或長篇文本。

💡 使用建議

在使用模型時，確保輸入的短語符合模型的輸入要求，以獲得更準確的結果。