Distilroberta Base Climate Detector

🚀 蒸留Robertaベースの気候検出器モデルカード

このモデルは、分類ヘッドを備えた微調整済みの言語モデルで、気候関連の段落を検出するために使用されます。気候関連のテキスト分類作業を効果的に支援し、気候研究や情報処理に強力なサポートを提供します。

🚀 クイックスタート

パイプラインを使用してこのモデルでテキスト分類を行うことができます。

from transformers import AutoModelForSequenceClassification, AutoTokenizer, pipeline
from transformers.pipelines.pt_utils import KeyDataset
import datasets
from tqdm.auto import tqdm

dataset_name = "climatebert/climate_detection"
model_name = "climatebert/distilroberta-base-climate-detector"

# If you want to use your own data, simply load them as 🤗 Datasets dataset, see https://huggingface.co/docs/datasets/loading
dataset = datasets.load_dataset(dataset_name, split="test")

model = AutoModelForSequenceClassification.from_pretrained(model_name)
tokenizer = AutoTokenizer.from_pretrained(model_name, max_len=512)

pipe = pipeline("text-classification", model=model, tokenizer=tokenizer, device=0)

# See https://huggingface.co/docs/transformers/main_classes/pipelines#transformers.pipeline
for out in tqdm(pipe(KeyDataset(dataset, "text"), padding=True, truncation=True)):
   print(out)

✨ 主な機能

これは、分類ヘッドを備えたClimateBERT言語モデルを微調整したもので、気候関連の段落を検出するために使用されます。climatebert/distilroberta-base-climate-f言語モデルを起点として、distilroberta-base-climate-detectorモデルはclimatebert/climate_detectionデータセットで微調整されています。

⚠️ 重要提示

このモデルは段落で訓練されており、文での性能は低い可能性があります。

📄 ライセンス

このモデルはApache-2.0ライセンスを使用しています。

📚 ドキュメント

引用情報

@techreport{bingler2023cheaptalk,
    title={How Cheap Talk in Climate Disclosures Relates to Climate Initiatives, Corporate Emissions, and Reputation Risk},
    author={Bingler, Julia and Kraus, Mathias and Leippold, Markus and Webersinke, Nicolas},
    type={Working paper},
    institution={Available at SSRN 3998435},
    year={2023}
}

モデル情報