Tech Keywords Extractor

🚀 技術關鍵詞提取器

本模型是一款強大的工具，它基於預訓練模型進行微調，能夠從文本中精準提取技術術語、工具和公司名稱等關鍵詞，極大地提升了信息聚合的效率。

🚀 快速開始

本模型是 facebook/bart-large 在私有數據集上的微調版本。在評估集上取得了以下結果：

• 損失值：0.8795

✨ 主要特性

• 精準提取：能夠從文本中準確提取技術術語、工具、公司名稱、語言和平臺等關鍵詞。
• 廣泛適用：不僅適用於特定領域的文本，也可用於其他類型的文本。

💻 使用示例

基礎用法

以下是一些使用該模型提取關鍵詞的示例：

• 示例文本："If a task raises an exception, or a worker process dies, Celery will by default lose the job. So if you happen to reboot or redeploy, any running jobs with be lost to the sands of time." 輸出："Celery, Exception Handling, Worker Process"
• 示例文本："Spin 2.0 – open - source tool for building and running WebAssembly applications -" 輸出："Spin 2.0, WebAssembly, Open Source"
• 示例文本："Do you think that low - code and no - code is a threat for developers in the long term?" 輸出："Low Code, No Code, Developers"
• 示例文本："I'm reaching out for some guidance on choosing the right no - code or low - code platform for my web app development projects. As a proficient back - end developer with a strong grasp of AWS, I have always struggled with front - end development" 輸出："No Code, Low Code, Web App Development, AWS"

🔧 技術細節

訓練超參數

訓練過程中使用了以下超參數：

• 學習率：5e - 05
• 訓練批次大小：4
• 評估批次大小：4
• 隨機種子：42
• 梯度累積步數：16
• 總訓練批次大小：64
• 優化器：Adam（β1 = 0.9，β2 = 0.999，ε = 1e - 08）
• 學習率調度器類型：線性
• 學習率調度器熱身步數：500
• 訓練輪數：3

訓練結果

框架版本

• Transformers 4.35.2
• Pytorch 2.1.0+cu118
• Datasets 2.15.0
• Tokenizers 0.15.0

📄 許可證

本模型採用 Apache - 2.0 許可證。