Distilroberta Base Climate Tcfd

🚀 蒸餾羅伯塔基礎氣候TCFD模型卡

這是一個用於氣候相關文本分類的模型卡，它可以將氣候相關段落分類到四個TCFD建議類別中，為氣候研究和分析提供有力支持。

🚀 快速開始

你可以使用以下代碼通過管道對文本進行分類：

from transformers import AutoModelForSequenceClassification, AutoTokenizer, pipeline
from transformers.pipelines.pt_utils import KeyDataset
import datasets
from tqdm.auto import tqdm

dataset_name = "climatebert/tcfd_recommendations"
model_name = "climatebert/distilroberta-base-climate-tcfd"

# If you want to use your own data, simply load them as 🤗 Datasets dataset, see https://huggingface.co/docs/datasets/loading
dataset = datasets.load_dataset(dataset_name, split="test")

model = AutoModelForSequenceClassification.from_pretrained(model_name)
tokenizer = AutoTokenizer.from_pretrained(model_name, max_len=512)

pipe = pipeline("text-classification", model=model, tokenizer=tokenizer, device=0)

# See https://huggingface.co/docs/transformers/main_classes/pipelines#transformers.pipeline
for out in tqdm(pipe(KeyDataset(dataset, "text"), padding=True, truncation=True)):
   print(out)

✨ 主要特性

• 該模型是基於微調的ClimateBERT語言模型構建的，帶有一個分類頭，用於將與氣候相關的段落分類到四個TCFD建議類別中（金融穩定委員會氣候相關財務信息披露工作組官網）。
• 以climatebert/distilroberta-base-climate-f語言模型為起點，在climatebert/tcfd_recommendations數據集上進行微調，僅使用四個建議類別（即從數據集中移除了非氣候相關類別）。

⚠️ 重要提示

該模型是在段落上進行訓練的，在句子上的表現可能不佳。

📚 詳細文檔

引用信息

@techreport{bingler2023cheaptalk,
    title={How Cheap Talk in Climate Disclosures Relates to Climate Initiatives, Corporate Emissions, and Reputation Risk},
    author={Bingler, Julia and Kraus, Mathias and Leippold, Markus and Webersinke, Nicolas},
    type={Working paper},
    institution={Available at SSRN 3998435},
    year={2023}
}

📄 許可證

本模型使用的是Apache-2.0許可證。