Bert Sdg French

🚀 ilovebots/bert - sdg - french

這個模型可以根據聯合國可持續發展目標（SDGs）對文本進行分類，為相關領域的文本分析提供了有力支持。

來源：https://www.un.org/development/desa/disabilities/about-us/sustainable-development-goals-sdgs-and-disability.html

🚀 快速開始

使用以下代碼開始使用該模型：

from transformers import AutoTokenizer, AutoModelForSequenceClassification
tokenizer = AutoTokenizer.from_pretrained("ilovebots/bert-sdg-french")
model = AutoModelForSequenceClassification.from_pretrained("ilovebots/bert-sdg-french")

✨ 主要特性

• 基於預訓練模型dbmdz/bert-base-french-europeana-cased進行微調，具有較好的文本分類能力。
• 訓練數據來源於公開的社區數據集OSDG（OSDG - CD），並經過處理以適配聯合國可持續發展目標分類任務。
• 專為法語文本分類設計，適用於相關法語文本的處理。

📦 安裝指南

本模型可通過transformers庫進行安裝和使用，安裝transformers庫的命令如下：

pip install transformers

📚 詳細文檔

模型詳情

模型描述

該文本分類模型是通過對預訓練模型dbmdz/bert-base-french-europeana-cased進行微調而開發的。其訓練數據來自公開的社區數據集OSDG（OSDG - CD），可在https://zenodo.org/record/5550238#.ZBulfcJByF4獲取。此模型是拉瓦爾大學一項學術研究的成果，旨在創建一個基於transformers的法語SDG文本分類模型。

模型的主要細節如下：

模型來源

• 倉庫地址：https://huggingface.co/ilovebots/bert-sdg-french

訓練數據

該模型的訓練數據基於可在https://zenodo.org/record/5550238#.ZBulfcJByF4獲取的數據集，並補充了聯合國可持續發展目標相關內容，且翻譯為法語。

訓練超參數

• 訓練輪數（Num_epoch）：4
• 學習率（Learning rate）：2e - 5
• Epsilon：1e - 8
• 優化器（Optimizer）：AdamW
• 批次大小（Batch size）：32
• 隨機種子（Seed random）：42

評估

評估指標

• 準確率（Accuracy）：0.84

🔧 技術細節

本模型基於預訓練的dbmdz/bert-base-french-europeana-cased模型進行微調。通過在公開的社區數據集OSDG（OSDG - CD）上進行訓練，對模型的參數進行調整以適應聯合國可持續發展目標的文本分類任務。在訓練過程中，使用了AdamW優化器和特定的超參數設置，經過4輪訓練得到最終模型。評估結果顯示，模型在準確率指標上達到了0.84，表明該模型在法語SDG文本分類任務上具有較好的性能。

📄 許可證

本模型使用mit許可證。

📖 引用

Martinez, D.F. (2023). SDG classification with BERT. https://huggingface.co/ilovebots/bert-sdg-french