Bpmn Information Extraction V2

🚀 BPMN信息提取v2

本項目是基於bert-base-cased微調的模型，用於處理包含104條文本流程描述的數據集。該模型可有效從文本中提取關鍵信息，在評估集上取得了良好的效果。

🚀 快速開始

本模型是bert-base-cased在包含104條文本流程描述的數據集上的微調版本。

數據集和訓練腳本可在以下鏈接找到：https://github.com/jtlicardo/process-visualizer/tree/main/src/token_classification

數據集包含5個目標標籤：

• AGENT
• TASK
• TASK_INFO
• PROCESS_INFO
• CONDITION

該模型在評估集上取得了以下結果：

• 損失值：0.2179
• 精確率：0.8826
• 召回率：0.9246
• F1值：0.9031
• 準確率：0.9516

✨ 主要特性

• 微調模型：基於bert-base-cased進行微調，適配特定的流程信息提取任務。
• 多指標評估：在評估集上使用損失值、精確率、召回率、F1值和準確率等多個指標進行評估，表現良好。

🔧 技術細節

訓練超參數

訓練過程中使用了以下超參數：

• 學習率：2e-05
• 訓練批次大小：8
• 評估批次大小：8
• 隨機種子：42
• 優化器：Adam（β1=0.9，β2=0.999，ε=1e-08）
• 學習率調度器類型：線性
• 訓練輪數：15

訓練結果

框架版本

• Transformers 4.26.1
• Pytorch 1.13.1+cu116
• Datasets 2.10.0
• Tokenizers 0.13.2

📄 許可證

本項目採用Apache-2.0許可證。