Abstract Sim Query Pubmed

🚀 抽象文書マッピングモデル

このモデルは、抽象的な文の記述をその記述に適合する文にマッピングするためのものです。Pubmedの文を用いて学習されています。

🚀 クイックスタート

このモデルは、抽象的な文の記述をその記述に適合する文にマッピングするために使用されます。Pubmedの文を用いて学習されています。load_finetuned_model を使用してクエリと文のエンコーダをロードし、encode_batch() を使用してモデルで文をエンコードします。

💻 使用例

基本的な使用法

from transformers import AutoTokenizer, AutoModel
import torch

def load_finetuned_model():


        sentence_encoder = AutoModel.from_pretrained("biu-nlp/abstract-sim-sentence-pubmed", revision="71f4539120e29024adc618173a1ed5fd230ac249")
        query_encoder = AutoModel.from_pretrained("biu-nlp/abstract-sim-query-pubmed", revision="8d34676d80a39bcbc5a1d2eec13e6f8078496215")
        tokenizer = AutoTokenizer.from_pretrained("biu-nlp/abstract-sim-sentence-pubmed")
        return tokenizer, query_encoder, sentence_encoder


def encode_batch(model, tokenizer, sentences, device):
    input_ids = tokenizer(sentences, padding=True, max_length=128, truncation=True, return_tensors="pt",
                          add_special_tokens=True).to(device)
    features = model(**input_ids)[0]

    features =  torch.sum(features[:,:,:] * input_ids["attention_mask"][:,:].unsqueeze(-1), dim=1) / torch.clamp(torch.sum(input_ids["attention_mask"][:,:], dim=1, keepdims=True), min=1e-9)

    return features

高度な使用法

# 高度な使用法についての説明は、このモデルの基本的な使い方が記載されているため、特に追加の説明はありません。上記の関数を利用して、具体的なタスクに合わせて使用してください。

📚 ドキュメント