Distilbert Complaints Product

🚀 distilbert-complaints-product

該模型基於CFBP數據集進行訓練，該數據集也可在HuggingFace Datasets庫中獲取。此模型可根據提供的文本預測金融投訴的類型。

🚀 快速開始

本模型是一個基於DistilBert的文本分類模型，可從給定文本中預測金融投訴的類型。

✨ 主要特性

• 這是一個DistilBert文本分類模型，有18種可能的類別，用於確定金融客戶投訴的性質。
• 作為端到端機器學習項目的一部分進行展示，專注於聯絡中心自動化。

📚 詳細文檔

預期用途和限制

此模型用於專注於聯絡中心自動化的端到端機器學習項目的演示：

• 基礎設施：Terraform
• 機器學習運維：HuggingFace（數據集、Hub、Transformers）
• 機器學習可解釋性：SHAP
• 雲服務：AWS
  • 模型託管：Lambda
  • 數據庫後端：DynamoDB
  • 編排：Step - Functions
  • 用戶界面託管：EC2
  • 路由：API Gateway
• 用戶界面：Budibase

訓練和評估數據

使用的是consumer_complaints數據集。

訓練過程

訓練超參數

訓練期間使用了以下超參數：

• 學習率：5e - 05
• 訓練批次大小：32
• 評估批次大小：64
• 隨機種子：42
• 優化器：Adam，β值為(0.9, 0.999)，ε值為1e - 08
• 學習率調度器類型：線性
• 學習率調度器熱身步數：500
• 訓練輪數：3

框架版本

• Transformers 4.16.1
• Pytorch 1.10.0 + cu111
• Datasets 1.18.2
• Tokenizers 0.11.0

🔧 技術細節

本模型基於DistilBert架構構建，通過對consumer_complaints數據集的學習，能夠對金融投訴文本進行分類。在訓練過程中，使用了特定的超參數和優化器，以保證模型的性能和穩定性。同時，結合了多種雲服務和工具，實現了端到端的機器學習項目流程，包括模型的託管、數據庫的管理、流程的編排以及用戶界面的展示等。