BART ToSSimplify

🚀 BART-ToSSimplify

BART-ToSSimplify 是一個用於生成服務條款文檔摘要的模型。它基於預訓練模型進行微調，能夠為英文服務條款協議生成簡化摘要，助力快速理解法律文檔。

🚀 快速開始

此模型是 facebook/bart-large-cnn 在未知數據集上的微調版本。它在評估集上取得了以下結果：

• 損失值：0.3895
• Rouge1：0.6186
• Rouge2：0.4739
• Rougel：0.5159
• Rougelsum：0.5152
• 生成長度：108.6354

✨ 主要特性

• 專業摘要生成：專門用於生成服務條款文檔的摘要。
• 法律文檔自動化：可自動化法律文檔的摘要生成，便於快速理解。

📚 詳細文檔

預期用途與侷限性

預期用途

• 生成服務條款協議的簡化摘要。
• 自動化法律文檔摘要，便於快速理解。

侷限性

• 該模型專為英文設計，不能應用於其他語言。
• 生成摘要的質量可能因源文本的複雜度而異。

訓練和評估數據

BART-ToSSimplify 在包含各種服務條款協議摘要的數據集上進行訓練。該數據集經過收集和預處理，劃分為訓練集和評估集。

訓練過程

訓練超參數

訓練期間使用了以下超參數：

• 學習率：5e-05
• 訓練批次大小：2
• 評估批次大小：2
• 隨機種子：42
• 優化器：Adam，β=(0.9, 0.999)，ε=1e-08
• 學習率調度器類型：線性
• 學習率調度器熱身步數：500
• 訓練輪數：5
• 混合精度訓練：Native AMP

訓練結果

框架版本

• Transformers 4.35.2
• Pytorch 2.1.0+cu121
• Datasets 2.15.0
• Tokenizers 0.15.0

📄 許可證

本模型採用 MIT 許可證。