Distilbert Complaints Product

🚀 distilbert-complaints-product

该模型基于CFBP数据集进行训练，该数据集也可在HuggingFace Datasets库中获取。此模型可根据提供的文本预测金融投诉的类型。

🚀 快速开始

本模型是一个基于DistilBert的文本分类模型，可从给定文本中预测金融投诉的类型。

✨ 主要特性

• 这是一个DistilBert文本分类模型，有18种可能的类别，用于确定金融客户投诉的性质。
• 作为端到端机器学习项目的一部分进行展示，专注于联络中心自动化。

📚 详细文档

预期用途和限制

此模型用于专注于联络中心自动化的端到端机器学习项目的演示：

• 基础设施：Terraform
• 机器学习运维：HuggingFace（数据集、Hub、Transformers）
• 机器学习可解释性：SHAP
• 云服务：AWS
  • 模型托管：Lambda
  • 数据库后端：DynamoDB
  • 编排：Step - Functions
  • 用户界面托管：EC2
  • 路由：API Gateway
• 用户界面：Budibase

训练和评估数据

使用的是consumer_complaints数据集。

训练过程

训练超参数

训练期间使用了以下超参数：

• 学习率：5e - 05
• 训练批次大小：32
• 评估批次大小：64
• 随机种子：42
• 优化器：Adam，β值为(0.9, 0.999)，ε值为1e - 08
• 学习率调度器类型：线性
• 学习率调度器热身步数：500
• 训练轮数：3

框架版本

• Transformers 4.16.1
• Pytorch 1.10.0 + cu111
• Datasets 1.18.2
• Tokenizers 0.11.0

🔧 技术细节

本模型基于DistilBert架构构建，通过对consumer_complaints数据集的学习，能够对金融投诉文本进行分类。在训练过程中，使用了特定的超参数和优化器，以保证模型的性能和稳定性。同时，结合了多种云服务和工具，实现了端到端的机器学习项目流程，包括模型的托管、数据库的管理、流程的编排以及用户界面的展示等。