Longformer Bio Ext Summ

🚀 長former用於生物醫學提取式摘要

本項目是基於長former模型進行微調，專門用於生物醫學領域的提取式摘要任務。它能夠從生物醫學文檔中提取關鍵信息，生成簡潔的摘要，為科研人員和從業者提供高效的信息獲取途徑。

🚀 快速開始

模型使用示例

summarizer = pipeline("summarization",
  model = "NotXia/longformer-bio-ext-summ",
  tokenizer = AutoTokenizer.from_pretrained("NotXia/longformer-bio-ext-summ"),
  trust_remote_code = True,
  device = 0
)

sentences = ["sent1.", "sent2.", "sent3?"]
summarizer({"sentences": sentences}, strategy="count", strategy_args=2)
>>> (['sent1.', 'sent2.'], [0, 1])

摘要策略

以下是用於對文檔進行摘要的策略：

• length：生成具有最大長度的摘要（strategy_args 為最大長度）。
• count：生成包含指定數量句子的摘要（strategy_args 為句子數量）。
• ratio：生成與文檔長度成比例的摘要（strategy_args 為比例，範圍 [0, 1]）。
• threshold：僅包含得分高於給定值的句子的摘要（strategy_args 為最低得分）。

📚 詳細文檔

本項目是為我的 學士學位論文 所做的工作。

長former模型在 MS^2 數據集上進行了微調，用於提取式摘要任務。模型架構類似於 BERTSum。訓練代碼可在 biomed-ext-summ 找到。

📄 許可證

本項目採用 Apache-2.0 許可證。