Bert Sdg French

🚀 ilovebots/bert - sdg - french

这个模型可以根据联合国可持续发展目标（SDGs）对文本进行分类，为相关领域的文本分析提供了有力支持。

来源：https://www.un.org/development/desa/disabilities/about-us/sustainable-development-goals-sdgs-and-disability.html

🚀 快速开始

使用以下代码开始使用该模型：

from transformers import AutoTokenizer, AutoModelForSequenceClassification
tokenizer = AutoTokenizer.from_pretrained("ilovebots/bert-sdg-french")
model = AutoModelForSequenceClassification.from_pretrained("ilovebots/bert-sdg-french")

✨ 主要特性

• 基于预训练模型dbmdz/bert-base-french-europeana-cased进行微调，具有较好的文本分类能力。
• 训练数据来源于公开的社区数据集OSDG（OSDG - CD），并经过处理以适配联合国可持续发展目标分类任务。
• 专为法语文本分类设计，适用于相关法语文本的处理。

📦 安装指南

本模型可通过transformers库进行安装和使用，安装transformers库的命令如下：

pip install transformers

📚 详细文档

模型详情

模型描述

该文本分类模型是通过对预训练模型dbmdz/bert-base-french-europeana-cased进行微调而开发的。其训练数据来自公开的社区数据集OSDG（OSDG - CD），可在https://zenodo.org/record/5550238#.ZBulfcJByF4获取。此模型是拉瓦尔大学一项学术研究的成果，旨在创建一个基于transformers的法语SDG文本分类模型。

模型的主要细节如下：

模型来源

• 仓库地址：https://huggingface.co/ilovebots/bert-sdg-french

训练数据

该模型的训练数据基于可在https://zenodo.org/record/5550238#.ZBulfcJByF4获取的数据集，并补充了联合国可持续发展目标相关内容，且翻译为法语。

训练超参数

• 训练轮数（Num_epoch）：4
• 学习率（Learning rate）：2e - 5
• Epsilon：1e - 8
• 优化器（Optimizer）：AdamW
• 批次大小（Batch size）：32
• 随机种子（Seed random）：42

评估

评估指标

• 准确率（Accuracy）：0.84

🔧 技术细节

本模型基于预训练的dbmdz/bert-base-french-europeana-cased模型进行微调。通过在公开的社区数据集OSDG（OSDG - CD）上进行训练，对模型的参数进行调整以适应联合国可持续发展目标的文本分类任务。在训练过程中，使用了AdamW优化器和特定的超参数设置，经过4轮训练得到最终模型。评估结果显示，模型在准确率指标上达到了0.84，表明该模型在法语SDG文本分类任务上具有较好的性能。

📄 许可证

本模型使用mit许可证。

📖 引用

Martinez, D.F. (2023). SDG classification with BERT. https://huggingface.co/ilovebots/bert-sdg-french