Bert Sdg French

🚀 ilovebots/bert-sdg-french

このモデルは、国連の持続可能な開発目標（SDG）に基づいてテキストを分類することができます。

出典: https://www.un.org/development/desa/disabilities/about-us/sustainable-development-goals-sdgs-and-disability.html

🚀 クイックスタート

以下のコードを使用して、モデルの使用を開始します。

from transformers import AutoTokenizer, AutoModelForSequenceClassification
tokenizer = AutoTokenizer.from_pretrained("ilovebots/bert-sdg-french")
model = AutoModelForSequenceClassification.from_pretrained("ilovebots/bert-sdg-french")

✨ 主な機能

このテキスト分類モデルは、事前学習済みのモデルであるdbmdz/bert-base-french-europeana-casedをファインチューニングして開発されました。

📦 インストール

このセクションでは、モデルを使用するためのインストール手順を説明します。

from transformers import AutoTokenizer, AutoModelForSequenceClassification
tokenizer = AutoTokenizer.from_pretrained("ilovebots/bert-sdg-french")
model = AutoModelForSequenceClassification.from_pretrained("ilovebots/bert-sdg-french")

📚 ドキュメント

モデルの詳細

モデルの説明

このテキスト分類モデルは、事前学習済みのモデルであるdbmdz/bert-base-french-europeana-casedをファインチューニングして開発されました。 このファインチューニングされたモデルの学習データは、https://zenodo.org/record/5550238#.ZBulfcJByF4 で公開されているコミュニティデータセットOSDG（OSDG-CD）に由来します。 このモデルは、ラバル大学の大学研究の一環として作成されました。 目的は、フランス語のtransformersに基づくSDGテキスト分類モデルを作成することでした。 モデルの主な詳細を以下に示します：

モデルのソース

• リポジトリ: https://huggingface.co/ilovebots/bert-sdg-french

学習データ

https://zenodo.org/record/5550238#.ZBulfcJByF4 で利用可能なデータセットは、国連の持続可能な開発目標を追加し、フランス語に翻訳されました。

学習ハイパーパラメータ

• エポック数 = 4
• 学習率 = 2e-5
• イプシロン = 1e-8
• オプティマイザ = AdamW
• バッチサイズ = 32
• 乱数シード = 42

評価

評価指標

• 正解率 = 0.84

🔧 技術詳細

このモデルは、事前学習済みのモデルであるdbmdz/bert-base-french-europeana-casedをファインチューニングすることで開発されました。学習データは、公開されているコミュニティデータセットOSDG（OSDG-CD）に由来し、国連の持続可能な開発目標を追加し、フランス語に翻訳されました。学習ハイパーパラメータは、エポック数が4、学習率が2e-5、イプシロンが1e-8、オプティマイザがAdamW、バッチサイズが32、乱数シードが42に設定されています。評価指標として正解率が使用され、0.84の正解率が達成されています。

📄 ライセンス

このモデルは、MITライセンスの下で公開されています。

📖 引用

Martinez, D.F. (2023). SDG classification with BERT. https://huggingface.co/ilovebots/bert-sdg-french