Abstract Sim Query Pubmed

🚀 抽象句子匹配模型

本項目提供了一個用於將摘要句子描述映射到符合該描述的句子的模型。此模型基於Pubmed句子進行訓練，可通過特定方法加載查詢和句子編碼器，並對句子進行編碼處理。

🚀 快速開始

本模型可將摘要句子描述映射到符合描述的句子，且在Pubmed句子上進行了訓練。你可以使用 load_finetuned_model 加載查詢和句子編碼器，使用 encode_batch() 對句子進行編碼。

💻 使用示例

基礎用法

from transformers import AutoTokenizer, AutoModel
import torch

def load_finetuned_model():

        sentence_encoder = AutoModel.from_pretrained("biu-nlp/abstract-sim-sentence-pubmed", revision="71f4539120e29024adc618173a1ed5fd230ac249")
        query_encoder = AutoModel.from_pretrained("biu-nlp/abstract-sim-query-pubmed", revision="8d34676d80a39bcbc5a1d2eec13e6f8078496215")
        tokenizer = AutoTokenizer.from_pretrained("biu-nlp/abstract-sim-sentence-pubmed")
        return tokenizer, query_encoder, sentence_encoder


def encode_batch(model, tokenizer, sentences, device):
    input_ids = tokenizer(sentences, padding=True, max_length=128, truncation=True, return_tensors="pt",
                          add_special_tokens=True).to(device)
    features = model(**input_ids)[0]

    features =  torch.sum(features[:,:,:] * input_ids["attention_mask"][:,:].unsqueeze(-1), dim=1) / torch.clamp(torch.sum(input_ids["attention_mask"][:,:], dim=1, keepdims=True), min=1e-9)

    return features

模型信息