Climate Check Reranker

🚀 気候科学再ランキングモデル

このモデルは クロスエンコーダ で、cross-encoder/ms-marco-MiniLM-L6-v2 をベースに sentence-transformers ライブラリを使って微調整されています。テキストペアのスコアを計算でき、テキストの再ランキングや意味検索に利用できます。

🚀 クイックスタート

このモデルは cross-encoder/ms-marco-MiniLM-L6-v2 をベースに微調整されたクロスエンコーダモデルで、テキストペアのスコアを計算でき、テキストの再ランキングや意味検索タスクに適しています。

✨ 主な機能

• クロスエンコーダアーキテクチャをベースに、テキストペア間の関連性スコアを効果的に計算できます。
• cross-encoder/ms-marco-MiniLM-L6-v2 モデルから微調整され、気候科学関連のデータで最適化されています。
• テキストの再ランキングと意味検索タスクをサポートし、情報検索の精度向上に役立ちます。

📦 インストール

まず、sentence-transformers ライブラリをインストールする必要があります。

pip install -U sentence-transformers

💻 使用例

基本的な使用法

from sentence_transformers import CrossEncoder

# モデルを Hugging Face Hub からダウンロード
model = CrossEncoder("cross_encoder_model_id")
# テキストペアのスコアを取得
pairs = [
    ['北極海氷は減少している一方、南極海氷は増加しています。 #気候科学 #極地地域', '要約：環境への影響が少ない健康的な食事は、気候変動対策の重要な戦略として広く推奨されています。通常、これらの食事は植物性食品を多く含み、動物性食品や加工食品の摂取を減らします。それらの環境への影響は様々ですが、一般に「持続可能な食事」と呼ばれています。本論文では、「持続可能な食事」の環境影響と人間の健康への影響に関する公開された証拠を体系的にレビューしました。私たちは、8つのデータベース（OvidSP-Medline、OvidSP-Embase、EBSCO-GreenFILE、Web of Science Core Collection、Scopus、OvidSP-CAB-Abstracts、OvidSP-AGRIS、OvidSP-Global Health）を検索し、「持続可能な食事」の健康影響と環境影響を報告する文献（1999年から2019年に発表）を特定しました。利用可能な証拠をマッピングし、食事パターン、健康および環境の結果の独自の組み合わせで集計分析を行いました。18の研究（412件の測定）が私たちの選択基準に合致し、12種類の非排他的な持続可能な食事パターン、6種類の環境結果、7種類の健康結果を区別しました。87％の測定（n = 151）で、「持続可能な食事」は現在/ベースラインの消費パターンと比較して、積極的な健康結果を報告しています（平均相対的な健康改善：4.09％ [95％CI -0.10 - 8.29]）。「持続可能な食事」に関連する温室効果ガス排出量は、現在/ベースラインの消費パターンと比較して平均25.8％低く（95％CI -27.0から -14.6）、特に菜食主義の食事は温室効果ガス排出量の削減が最も大きいと報告されています（-70.3％ [95％CI：-90.2から -50.4]）。ただし、水の使用量はしばしば現在/ベースラインの食事よりも多いと報告されています。大多数の測定（n = 315 [76％]）は、健康と環境の両方に対する多重な利益を報告しています。私たちは、「持続可能な食事」が健康に対して積極的な影響を与え、環境影響を減らすという一貫した証拠を見つけました。「持続可能な食事」に関連する水使用量の増加という顕著な例外は、相乗効果が普遍的ではなく、いくつかのトレードオフが必要になる可能性があることを示しています。適切に設計され、証拠に基づき、背景要因に適応した食事の変更は、気候変動の緩和、持続可能な食料システム、および将来の人口の健康において重要な役割を果たす可能性があります。'],
    ['私たちは化石燃料からの移行を加速させ、将来の気候温暖化を軽減することができます。', '最近のエネルギー移行の時間的ダイナミクスに関する議論は非常に重要です。化石燃料からの移行の主な理由の1つは、気候変動に対応することです。歴史からわかるように、長期的な移行には数十年から数百年かかり、気候変動緩和目標の達成には役立たない可能性が高いです。したがって、エネルギー移行の速度と、それを加速できるかどうかは、重要な学術的および政策的な問題です。私たちは、歴史は移行のダイナミクスを理解する上で重要ですが、歴史的な移行速度は未来に対する十分な指針にはならないと考えています。私たちは、Sovacool [1]の見解に同意し、過去にはより速い移行が起こっており、未来にも世界規模で可能であると考えています。私たちが楽観的な主な理由は、歴史上のエネルギー移行は意識的に管理されていなかったのに対し、現在では様々な主体が低炭素エネルギーシステムへの移行を積極的に管理しようとしていることです。さらに、国際的なイノベーションの動向は、世界的な低炭素移行を加速するのに有利に働く可能性があります。最後に、2015年のパリ協定は、初めて世界的な低炭素経済への移行のコミットメントを示し、迅速な移行を促進し、抵抗（例えば、既存企業の沈没インフラ投資からの抵抗）を克服するために必要な政治的意思を示しています。'],
    ["私たちは長い間、気候変動の問題を知っていました。 #直ちに気候行動を起こせ", '最近の北極の温暖化は、広範な物理的、生態的、人間/文化的システムに影響を与えており、これらの影響は百年の時間スケールでは不可逆的であり、地球システムの急速な変化を引き起こす可能性があります。北極の炭素循環の気候変動への応答は、世界的な関心の的となっていますが、現在、現代の北極の炭素循環の現状と気候変動への応答に関する包括的なレビューはありません。本レビューは、現在の気候変動に対する北極の炭素循環の応答における主要な不確実性と脆弱性を明らかにすることを目的としています。明らかに、北極には大量の炭素が蓄積されていますが、永久凍土中の有機物の蓄積量や、北極の地下および水中の永久凍土下のメタンハイドレートの貯蔵量に関連する不確実性も大きいです。地球規模の炭素循環の文脈で、本レビューは、北極が地球の二酸化炭素とメタンの両方の動態において重要な役割を果たしていることを示しています。研究によると、過去数十年間、北極は大気中の二酸化炭素の吸収源となっており、吸収量は0から0.8 Pg C/年の間で、20世紀90年代の地球の陸地/海洋の正味フラックスの0％から25％を占めています。北極は大気中のメタンの重要な供給源であり（年間32から112 Tgのメタン）、主にこの地域には広大な湿地があるためです。これまでの分析によると、21世紀残りの期間における北極の炭素循環の感度は非常に不確実です。予測される気候変動に対する北極の炭素循環の感度を評価する能力を向上させるために、私たちは以下のことを提案しています：（1）炭素動態の観測とそれらの動態に影響を与える可能性のあるプロセスを関連付ける総合的な地域研究を実施すること；（2）これらの総合的な研究から得られた理解を、非結合および完全結合の炭素 - 気候モデリング作業に組み込むこと。'],
    ['果樹は新鮮な酸素を生成します。', '酸素は私たちが知る地球の生命を形作っています。分子状酸素は正常な細胞機能に不可欠です。つまり、植物は細胞呼吸を維持し、様々な生化学的反応を行うために酸素を必要とします。細胞内の酸素レベルが呼吸に必要なレベルを下回ると、細胞は酸欠状態に陥ります。植物が自然環境下（例えば洪水時）に根の酸欠状態になることはよく知られています。一方、果物は通常の酸素条件下でも酸欠状態になることがあります。この現象は、拡散障壁、組織の拡散率の低さ、および呼吸による酸素の高い消費量によって少なくとも部分的に説明できます。生理学的な観点から、酸欠は果物の発育に大きな影響を与えます。低酸素環境が特定の果物の成熟と老化を著しく遅らせることが十分に文献に記載されています。低酸素環境のこの効果は、貯蔵条件と輸送の最適化、およびいくつかの果物商品の貯蔵寿命の延長に広く利用されています。したがって、細胞内の酸素供給と果物の発育の間の複雑な関係をさらに理解することは、収穫後の管理に役立ちます。'],
    ["知っていますか？氷山が溶けるとき、実際には海面が上昇することはありません。 😕 なぜなら、氷山は浮いているときにすでに等量の水を押しのけているからです。 #科学事実 #海洋事実", '要約：過去40年間、北極海氷の急激な減少は、地球の気候変動の最も明らかな証拠です。海氷を表すすべての変数の中で、海氷体積は気候変動に最も敏感です。なぜなら、海氷範囲や厚さと比較して、その減衰速度が最も速いからです。40年間で、北極海氷の夏末の体積は約4分の3減少し、海氷範囲と厚さの平均が半分に減少したことに相当します。40年前、北極海氷の夏の最小値は16000 km³を超えていましたが、最近の夏には4000 km³未満にまで減少しています。北極海氷体積は海氷範囲と厚さの総合的な指標であるため、直接的かつ正確に観測することは困難です。私たちは、ERA中期再解析の地表気温データに基づいて、過去38年間の北極全域の毎年9か月（9月から翌年5月）の累積凍結度日数（FDD）を推定しました。そして、累積FDDから推定される海氷厚さを用いて計算した北極海氷体積を、汎北極海氷 - 海洋モデリングと同化システム（PIOMAS）および欧州宇宙機関のCryoSat - 2衛星に基づく推定値と比較しました。結果は驚くほど類似していました。大気の温暖化は、凍結期間全体（9月から5月）を通じて北極海氷体積の減少に重要な役割を果たしています。さらに、FDDの空間分布は明確な双峰性を示しており、北極海氷被覆の典型的な多年氷（MYI）と一年氷（FYI）の二重分布を反映しています。これは、垂直海洋熱フラックスが海氷に与える影響が、MYIとFYIの分布およびその上の雪層に大きく依存し、さらに地表気温に影響を与えることを示しています。2018年には、北極の多年氷が過去40年間で初めてほぼ完全に消失しました。今後15年以内に、北極海氷が夏にほぼ完全に消失する可能性が高まっており、これは北極の海洋および陸上の生態系、地球の気候および天候パターン、ならびに人間活動に広範な影響を与えるでしょう。"]
]
scores = model.predict(pairs)
print(scores.shape)
# (5,)

高度な使用法

# 単一のテキストとの類似度に基づいて、異なるテキストをランク付けする
ranks = model.rank(
    '北極海氷は減少している一方、南極海氷は増加しています。 #気候科学 #極地地域',
    [
        '要約：環境への影響が少ない健康的な食事は、気候変動対策の重要な戦略として広く推奨されています。通常、これらの食事は植物性食品を多く含み、動物性食品や加工食品の摂取を減らします。それらの環境への影響は様々ですが、一般に「持続可能な食事」と呼ばれています。本論文では、「持続可能な食事」の環境影響と人間の健康への影響に関する公開された証拠を体系的にレビューしました。私たちは、8つのデータベース（OvidSP-Medline、OvidSP-Embase、EBSCO-GreenFILE、Web of Science Core Collection、Scopus、OvidSP-CAB-Abstracts、OvidSP-AGRIS、OvidSP-Global Health）を検索し、「持続可能な食事」の健康影響と環境影響を報告する文献（1999年から2019年に発表）を特定しました。利用可能な証拠をマッピングし、食事パターン、健康および環境の結果の独自の組み合わせで集計分析を行いました。18の研究（412件の測定）が私たちの選択基準に合致し、12種類の非排他的な持続可能な食事パターン、6種類の環境結果、7種類の健康結果を区別しました。87％の測定（n = 151）で、「持続可能な食事」は現在/ベースラインの消費パターンと比較して、積極的な健康結果を報告しています（平均相対的な健康改善：4.09％ [95％CI -0.10 - 8.29]）。「持続可能な食事」に関連する温室効果ガス排出量は、現在/ベースラインの消費パターンと比較して平均25.8％低く（95％CI -27.0から -14.6）、特に菜食主義の食事は温室効果ガス排出量の削減が最も大きいと報告されています（-70.3％ [95％CI：-90.2から -50.4]）。ただし、水の使用量はしばしば現在/ベースラインの食事よりも多いと報告されています。大多数の測定（n = 315 [76％]）は、健康と環境の両方に対する多重な利益を報告しています。私たちは、「持続可能な食事」が健康に対して積極的な影響を与え、環境影響を減らすという一貫した証拠を見つけました。「持続可能な食事」に関連する水使用量の増加という顕著な例外は、相乗効果が普遍的ではなく、いくつかのトレードオフが必要になる可能性があることを示しています。適切に設計され、証拠に基づき、背景要因に適応した食事の変更は、気候変動の緩和、持続可能な食料システム、および将来の人口の健康において重要な役割を果たす可能性があります。',
        '最近のエネルギー移行の時間的ダイナミクスに関する議論は非常に重要です。化石燃料からの移行の主な理由の1つは、気候変動に対応することです。歴史からわかるように、長期的な移行には数十年から数百年かかり、気候変動緩和目標の達成には役立たない可能性が高いです。したがって、エネルギー移行の速度と、それを加速できるかどうかは、重要な学術的および政策的な問題です。私たちは、歴史は移行のダイナミクスを理解する上で重要ですが、歴史的な移行速度は未来に対する十分な指針にはならないと考えています。私たちは、Sovacool [1]の見解に同意し、過去にはより速い移行が起こっており、未来にも世界規模で可能であると考えています。私たちが楽観的な主な理由は、歴史上のエネルギー移行は意識的に管理されていなかったのに対し、現在では様々な主体が低炭素エネルギーシステムへの移行を積極的に管理しようとしていることです。さらに、国際的なイノベーションの動向は、世界的な低炭素移行を加速するのに有利に働く可能性があります。最後に、2015年のパリ協定は、初めて世界的な低炭素経済への移行のコミットメントを示し、迅速な移行を促進し、抵抗（例えば、既存企業の沈没インフラ投資からの抵抗）を克服するために必要な政治的意思を示しています。',
        '最近の北極の温暖化は、広範な物理的、生態的、人間/文化的システムに影響を与えており、これらの影響は百年の時間スケールでは不可逆的であり、地球システムの急速な変化を引き起こす可能性があります。北極の炭素循環の気候変動への応答は、世界的な関心の的となっていますが、現在、現代の北極の炭素循環の現状と気候変動への応答に関する包括的なレビューはありません。本レビューは、現在の気候変動に対する北極の炭素循環の応答における主要な不確実性と脆弱性を明らかにすることを目的としています。明らかに、北極には大量の炭素が蓄積されていますが、永久凍土中の有機物の蓄積量や、北極の地下および水中の永久凍土下のメタンハイドレートの貯蔵量に関連する不確実性も大きいです。地球規模の炭素循環の文脈で、本レビューは、北極が地球の二酸化炭素とメタンの両方の動態において重要な役割を果たしていることを示しています。研究によると、過去数十年間、北極は大気中の二酸化炭素の吸収源となっており、吸収量は0から0.8 Pg C/年の間で、20世紀90年代の地球の陸地/海洋の正味フラックスの0％から25％を占めています。北極は大気中のメタンの重要な供給源であり（年間32から112 Tgのメタン）、主にこの地域には広大な湿地があるためです。これまでの分析によると、21世紀残りの期間における北極の炭素循環の感度は非常に不確実です。予測される気候変動に対する北極の炭素循環の感度を評価する能力を向上させるために、私たちは以下のことを提案しています：（1）炭素動態の観測とそれらの動態に影響を与える可能性のあるプロセスを関連付ける総合的な地域研究を実施すること；（2）これらの総合的な研究から得られた理解を、非結合および完全結合の炭素 - 気候モデリング作業に組み込むこと。',
        '酸素は私たちが知る地球の生命を形作っています。分子状酸素は正常な細胞機能に不可欠です。つまり、植物は細胞呼吸を維持し、様々な生化学的反応を行うために酸素を必要とします。細胞内の酸素レベルが呼吸に必要なレベルを下回ると、細胞は酸欠状態に陥ります。植物が自然環境下（例えば洪水時）に根の酸欠状態になることはよく知られています。一方、果物は通常の酸素条件下でも酸欠状態になることがあります。この現象は、拡散障壁、組織の拡散率の低さ、および呼吸による酸素の高い消費量によって少なくとも部分的に説明できます。生理学的な観点から、酸欠は果物の発育に大きな影響を与えます。低酸素環境が特定の果物の成熟と老化を著しく遅らせることが十分に文献に記載されています。低酸素環境のこの効果は、貯蔵条件と輸送の最適化、およびいくつかの果物商品の貯蔵寿命の延長に広く利用されています。したがって、細胞内の酸素供給と果物の発育の間の複雑な関係をさらに理解することは、収穫後の管理に役立ちます。',
        '要約：過去40年間、北極海氷の急激な減少は、地球の気候変動の最も明らかな証拠です。海氷を表すすべての変数の中で、海氷体積は気候変動に最も敏感です。なぜなら、海氷範囲や厚さと比較して、その減衰速度が最も速いからです。40年間で、北極海氷の夏末の体積は約4分の3減少し、海氷範囲と厚さの平均が半分に減少したことに相当します。40年前、北極海氷の夏の最小値は16000 km³を超えていましたが、最近の夏には4000 km³未満にまで減少しています。北極海氷体積は海氷範囲と厚さの総合的な指標であるため、直接的かつ正確に観測することは困難です。私たちは、ERA中期再解析の地表気温データに基づいて、過去38年間の北極全域の毎年9か月（9月から翌年5月）の累積凍結度日数（FDD）を推定しました。そして、累積FDDから推定される海氷厚さを用いて計算した北極海氷体積を、汎北極海氷 - 海洋モデリングと同化システム（PIOMAS）および欧州宇宙機関のCryoSat - 2衛星に基づく推定値と比較しました。結果は驚くほど類似していました。大気の温暖化は、凍結期間全体（9月から5月）を通じて北極海氷体積の減少に重要な役割を果たしています。さらに、FDDの空間分布は明確な双峰性を示しており、北極海氷被覆の典型的な多年氷（MYI）と一年氷（FYI）の二重分布を反映しています。これは、垂直海洋熱フラックスが海氷に与える影響が、MYIとFYIの分布およびその上の雪層に大きく依存し、さらに地表気温に影響を与えることを示しています。2018年には、北極の多年氷が過去40年間で初めてほぼ完全に消失しました。今後15年以内に、北極海氷が夏にほぼ完全に消失する可能性が高まっており、これは北極の海洋および陸上の生態系、地球の気候および天候パターン、ならびに人間活動に広範な影響を与えるでしょう。'
    ]
)
# [{'corpus_id': ..., 'score': ...}, {'corpus_id': ..., 'score': ...}, ...]

📚 ドキュメント

モデル詳細

モデルの出典

• ドキュメント：Sentence Transformers ドキュメント
• ドキュメント：クロスエンコーダドキュメント
• コードリポジトリ：GitHub 上の Sentence Transformers
• Hugging Face：Hugging Face 上のクロスエンコーダ

評価指標

クロスエンコーダ再ランキング

• データセット：climate-science-eval
• 評価方法：CrossEncoderRerankingEvaluator を使用して評価します。パラメータは以下の通りです。

  {
      "at_k": 10,
      "always_rerank_positives": true
  }
  

学習詳細

学習データセット

• データセット名：未命名データセット
• データセットサイズ：2016件の学習サンプル
• データセット列名：query、answer、label
• 最初の1000件のサンプルに基づく近似統計情報：

  	クエリ (query)	回答 (answer)	ラベル (label)
  タイプ	文字列	文字列	整数
  詳細	最小長：27文字 平均長：111.06文字 最大長：236文字	最小長：183文字 平均長：1988.82文字 最大長：23789文字	0：約74.60% 1：約25.40%

• 損失関数：BinaryCrossEntropyLoss を使用し、パラメータは以下の通りです。

  {
      "activation_fn": "torch.nn.modules.linear.Identity",
      "pos_weight": 6
  }
  

学習ハイパーパラメータ

デフォルトではないハイパーパラメータ

• eval_strategy：エポックごとに評価
• per_device_train_batch_size：16
• per_device_eval_batch_size：16
• learning_rate：2e-05
• warmup_ratio：0.1
• fp16：True
• dataloader_num_workers：4
• load_best_model_at_end：True

すべてのハイパーパラメータ

学習ログ

注：太字の行は保存されたチェックポイントを示しています。

フレームワークバージョン

• Python: 3.11.12
• Sentence Transformers: 4.1.0
• Transformers: 4.51.3
• PyTorch: 2.6.0+cu124
• Accelerate: 1.6.0
• Datasets: 3.6.0
• Tokenizers: 0.21.1

📄 ライセンス

このモデルは Apache-2.0 ライセンスの下で提供されています。

📖 引用

BibTeX

Sentence Transformers

@inproceedings{reimers-2019-sentence-bert,
    title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
    author = "Reimers, Nils and Gurevych, Iryna",
    booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
    month = "11",
    year = "2019",
    publisher = "Association for Computational Linguistics",
    url = "https://arxiv.org/abs/1908.10084",
}