Multilingual Cpv Sector Classifier

🚀 多语言通用采购词汇（CPV）行业分类器

本模型是基于 bert-base-multilingual-cased 在 Tenders Economic Daily 公共采购数据 上进行微调的版本。它在评估集上取得了以下成绩：

• F1 分数：0.686

🚀 快速开始

本模型可直接用于对采购描述进行分类，输入为支持的 104 种语言的采购描述，输出为对应的 CPV 行业分类。

✨ 主要特性

• 多语言支持：能够处理 104 种语言 编写的采购描述。
• 行业分类细致：将采购描述分类为 45 个由 CPV（通用采购词汇） 代码描述代表的行业类别。

📚 详细文档

模型描述

该模型接收用 104 种语言 编写的采购描述，并将其分类为以下列出的由 CPV（通用采购词汇） 代码描述代表的 45 个行业类别。

预期用途和限制

⚠️ 重要提示

• 输入描述应使用 MBERT 支持的 104 种语言 编写。
• 该模型仅在 22 种语言上进行了评估，因此没有关于其他语言性能的信息。
• 该模型的适用领域也受到欧盟授予的采购通知描述的限制，对完整文档文本进行评估可能会改变性能。

训练和评估数据

• 整个数据集由 744,360 行组成，采用 80%/20% 的比例随机划分为训练集和验证集。
• 每个描述代表 2011 年至 2018 年期间授予的唯一合同通知描述。
• 训练数据和验证数据都包含用 22 种欧洲语言编写的合同通知描述。（由于与整体数据相比数量稀少，马耳他语和爱尔兰语被剔除）

训练过程

训练过程在 Google Cloud V3 - 8 TPUs 上完成。感谢 Google 提供对 Cloud TPUs 的访问权限。

训练超参数

训练期间使用了以下超参数：

• 学习率：2e - 05
• 训练轮数：3
• 梯度累积步数：8
• 每个设备的批量大小：4
• 总训练批量大小：32

训练结果

📄 许可证

本项目采用 Apache - 2.0 许可证。