Flan T5 Base Tldr News

🚀 flan-t5-base-tldr_news

flan-t5-base-tldr_news 是一個經過微調的 T5 模型，專為 TLDR（內容過長；未讀）新聞文章的文本摘要生成和標題生成任務而設計，能夠高效生成簡潔且信息豐富的摘要和標題。

🚀 快速開始

以下是通過 API 使用該模型的示例代碼：

from transformers import pipeline

summarizer = pipeline(
              'summarization',
              'ybagoury/flan-t5-base-tldr_news',
              )
raw_text = """ your text here... """
results = summarizer(raw_text)
print(results)

✨ 主要特性

• 特定任務優化：專門針對 TLDR 新聞文章的文本摘要生成和標題生成任務進行微調。
• 先進架構：採用 T5 架構，在多種 NLP 任務中表現出色。

📚 詳細文檔

任務說明

該模型的主要目標是執行兩項 NLP 任務：文本摘要生成和標題生成。文本摘要生成是指生成一個較長文本的簡短版本，同時保留最重要的信息和觀點；標題生成則是為給定文本生成一個能夠準確且簡潔地概括文本主題或觀點的標題。

架構介紹

flan-t5-base-tldr_news 使用 T5 架構，該架構已被證明在多種 NLP 任務中非常有效。T5 架構由編碼器和解碼器組成，它們經過訓練，可以根據輸入文本生成摘要或標題。

模型規模

該模型有 247,577,856 個參數，這些參數代表了模型中可調節的權重數量。模型的規模會影響訓練和推理過程中的速度和內存需求，以及模型在特定任務上的性能。

訓練數據

該模型在 TLDR 新聞文章數據集上進行了微調。選擇這個數據集是因為它包含大量已被濃縮為簡短摘要的新聞文章，非常適合訓練用於文本摘要生成的模型。訓練數據經過了包括分詞在內的各種標準預處理步驟，以便將數據輸入模型。

評估指標

為了評估模型在文本摘要生成和標題生成任務上的性能，我們使用了 ROUGE 指標。ROUGE（Recall-Oriented Understudy for Gisting Evaluation）衡量生成文本與參考文本（在這種情況下是原始新聞文章或其摘要）之間的重疊程度。ROUGE 指標常用於 NLP 評估，是衡量生成摘要和標題質量的有效方法。

以下表格展示了模型在測試集上的 ROUGE 得分，這能很好地反映其在文本摘要生成和標題生成任務上的整體性能：

需要注意的是，這些得分只是模型在特定測試集上性能的一個快照，模型的性能可能會因輸入文本、訓練數據的質量以及模型的具體應用場景而有所不同。

💻 使用示例

基礎用法

from transformers import pipeline

summarizer = pipeline(
              'summarization',
              'ybagoury/flan-t5-base-tldr_news',
              )
raw_text = """ your text here... """
results = summarizer(raw_text)
print(results)