Paraphrase Bert Pt

🚀 Prompsit/paraphrase-bert-pt

このモデルは、与えられたフレーズに対する言い換えを評価することができます。このモデルは、事前学習済みの "neuralmind/bert-base-portuguese-cased" から微調整されています。また、このモデルは、スペイン政府の経済・デジタル変革省によって共同出資された TSI - 100905 - 2019 - 4 プロジェクトの下で構築されました。

🚀 クイックスタート

このモデルは、「フレーズ B」が「フレーズ A」の言い換えであるかという質問に答えます。なお、ここでは文ではなくフレーズを考慮しています。したがって、モデルは句読点や長いテキストを想定していないことに注意してください。

結果の確率は以下のクラスに対応します：

• 0: 言い換えではない
• 1: 言い換えである

例えば、「logo após o homicídio」というフレーズと、「pouco depois do assassinato」という候補の言い換えを考えると、以下のようにモデルを使用できます。

基本的な使用法

# 使用示例代码保持不变
import torch

from transformers import AutoTokenizer, AutoModelForSequenceClassification
tokenizer = AutoTokenizer.from_pretrained("Prompsit/paraphrase-bert-pt")
model = AutoModelForSequenceClassification.from_pretrained("Prompsit/paraphrase-bert-pt")

input = tokenizer('logo após o homicídio','pouco depois do assassinato',return_tensors='pt')
logits = model(**input).logits
soft = torch.nn.Softmax(dim=1)
print(soft(logits))

コードの出力は以下の通りです：

tensor([[0.2137, 0.7863]], grad_fn=<SoftmaxBackward>)

1（=言い換えである）の確率が 0.7863 で、0（=言い換えではない）の確率が 0.2137 であるため、この例では「pouco depois do assassinato」は「logo após o homicidio」の言い換えであると結論付けることができます。

📚 ドキュメント

評価結果

テストデータセットとして、人間によってタグ付けされた 16500 組のフレーズを使用しました。得られたメトリクスは以下の通りです：

metrics={
 'test_loss': 0.6074697375297546, 
 'test_accuracy': 0.7809, 
 'test_precision': 0.7157638466220329, 
 'test_recall': 0.40551724137931033, 
 'test_f1': 0.5177195685670262, 
 'test_matthews_correlation': 0.41603913834665324, 
 'test_runtime': 16.4585, 
 'test_samples_per_second': 607.587, 
 'test_steps_per_second': 19.017
}