Biomednlp PubMedBERT Base Uncased Abstract Fulltext Finetuned Mnli

🚀 BiomedNLP - PubMedBERT（テキストエンテイルメント（NLI）でファインチューニング済み）

microsoft/BiomedNLP - PubMedBERT - base - uncased - abstract - fulltext をMNLIデータセットでファインチューニングしたモデルです。生物医学コーパスを対象としたテキストエンテイルメントタスクに役立つと思われます。

🚀 クイックスタート

このモデルは、2つの文（前提と仮説）を入力として受け取り、エンテイルメント、中立、矛盾のロジットを出力します。

ウィジェットを使用したテスト

HuggingFaceのモデルウィジェットを使用してモデルをテストできます。

• 2つの文（前提と仮説）を順番に入力します。
• モデルは、3つのラベル（エンテイルメント（LABEL:0）、中立（LABEL:1）、矛盾（LABEL:2））の確率を返します。

ローカルでの使用方法

以下のコードを使用して、モデルをローカルマシンで使用できます。

# import torch
# device = torch.device("cuda" if torch.cuda.is_available() else "cpu")

from transformers import AutoTokenizer, AutoModelForSequenceClassification
  
tokenizer = AutoTokenizer.from_pretrained("lighteternal/BiomedNLP-PubMedBERT-base-uncased-abstract-fulltext-finetuned-mnli")
model = AutoModelForSequenceClassification.from_pretrained("lighteternal/BiomedNLP-PubMedBERT-base-uncased-abstract-fulltext-finetuned-mnli")

premise = 'EpCAM is overexpressed in breast cancer'
hypothesis = 'EpCAM is downregulated in breast cancer.'

# run through model pre-trained on MNLI
x = tokenizer.encode(premise, hypothesis, return_tensors='pt',
                     truncation_strategy='only_first')
logits = model(x)[0]

probs = logits.softmax(dim=1)
print('Probabilities for entailment, neutral, contradiction \n', np.around(probs.cpu().
                                                                           detach().numpy(),3))
# Probabilities for entailment, neutral, contradiction 
# 0.001 0.001 0.998

📚 ドキュメント

評価指標

MNLIテストセットでの分類精度（エンテイルメント、矛盾、中立）の評価結果は以下の通りです。

詳細な情報については、「Training Metrics」タブを参照してください。

📄 ライセンス

このモデルはMITライセンスの下で提供されています。