Distilroberta Base Climate Tcfd

🚀 distilroberta-base-climate-tcfdのモデルカード

このモデルは、気候関連の文章を4つのTCFD勧告カテゴリに分類するための分類ヘッドを備えた、微調整されたClimateBERT言語モデルです。(fsb-tcfd.org)

climatebert/distilroberta-base-climate-f言語モデルを起点として、distilroberta-base-climate-tcfdモデルは、climatebert/tcfd_recommendationsデータセットで微調整されています。この際、非気候関連のクラスはデータセットから除外され、4つの勧告カテゴリのみが使用されています。

注意: このモデルは文章に対して学習されています。文に対しては性能が低下する可能性があります。

🚀 クイックスタート

モデルをテキスト分類のパイプラインで使用することができます。

from transformers import AutoModelForSequenceClassification, AutoTokenizer, pipeline
from transformers.pipelines.pt_utils import KeyDataset
import datasets
from tqdm.auto import tqdm

dataset_name = "climatebert/tcfd_recommendations"
model_name = "climatebert/distilroberta-base-climate-tcfd"

# 独自のデータを使用する場合は、🤗 Datasetsデータセットとして読み込んでください。https://huggingface.co/docs/datasets/loadingを参照
dataset = datasets.load_dataset(dataset_name, split="test")

model = AutoModelForSequenceClassification.from_pretrained(model_name)
tokenizer = AutoTokenizer.from_pretrained(model_name, max_len=512)

pipe = pipeline("text-classification", model=model, tokenizer=tokenizer, device=0)

# https://huggingface.co/docs/transformers/main_classes/pipelines#transformers.pipelineを参照
for out in tqdm(pipe(KeyDataset(dataset, "text"), padding=True, truncation=True)):
   print(out)

📚 ドキュメント

モデル情報

引用情報

@techreport{bingler2023cheaptalk,
    title={How Cheap Talk in Climate Disclosures Relates to Climate Initiatives, Corporate Emissions, and Reputation Risk},
    author={Bingler, Julia and Kraus, Mathias and Leippold, Markus and Webersinke, Nicolas},
    type={Working paper},
    institution={Available at SSRN 3998435},
    year={2023}
}

📄 ライセンス

このモデルは、Apache-2.0ライセンスの下で提供されています。