Sdgbert

🚀 sadickam/sdgBERT

sdgBERT（以前は "sdg-classification-bert" と呼ばれていました）は、国連の持続可能な開発目標（SDG）に関するテキスト分類を行うためのNLPモデルです。

出典:https://www.un.org/development/desa/disabilities/about-us/sustainable-development-goals-sdgs-and-disability.html

🚀 クイックスタート

以下のコードを使用して、モデルを始めることができます。

from transformers import AutoTokenizer, AutoModelForSequenceClassification
tokenizer = AutoTokenizer.from_pretrained("sadickam/sdg-classification-bert")
model = AutoModelForSequenceClassification.from_pretrained("sadickam/sdg-classification-bert")

✨ 主な機能

このテキスト分類モデルは、bert-base-uncasedの事前学習モデルをファインチューニングして開発されました。このファインチューニングされたモデルの学習データは、https://zenodo.org/records/8397907 で公開されているOSDG Community Dataset (OSDG-CD) Version 2023.10 から取得されました。このモデルは、デキン大学での学術研究の一環として作成されました。目標は、誰でも使用できるトランスフォーマーベースのSDGテキスト分類モデルを作成することでした。国連の最初の16のSDGのみがサポートされています。

📦 インストール

このモデルはファインチューニング済みであるため、さらなるトレーニングは必要ありません。

📚 ドキュメント

モデルの詳細

• モデルの種類: テキスト分類
• 言語 (NLP): 英語
• ライセンス: mit
• ファインチューニング元のモデル [オプション]: bert-base-uncased

モデルのソース

• リポジトリ: https://huggingface.co/sadickam/sdg-classification-bert
• デモ: オプション1 (テキストとCSVをコピー/貼り付け): https://sadickam-sdg-text-classifier.hf.space/; オプション2 (PDFドキュメント): https://sadickam-document-sdg-app-cpu.hf.space

直接使用

これはファインチューニングされたモデルであるため、さらなるトレーニングは必要ありません。

学習データ

学習データには、幅広い産業や学術研究分野のテキストが含まれています。したがって、このファインチューニングされたモデルは特定の産業用ではありません。学習データについてはこちらを参照: https://zenodo.org/records/8397907

学習ハイパーパラメータ

• エポック数 = 3
• 学習率 = 5e-5
• バッチサイズ = 16

評価

評価指標

• 正解率 = 0.90
• マシューズ相関係数 = 0.89

引用

近日提供予定です。現在論文は査読中です。

モデルカードの問い合わせ先

s.sadick@deakin.edu.au