Science Keyword Classification

🚀 科学キーワード分類モデル

このプロジェクトでは、NASAの共通メタデータリポジトリ（CMR）から科学キーワードを分類するために、INDUSモデルをファインチューニングしています。目的は、極限多ラベル分類設定において関連するキーワードを予測することで、地球観測メタデータのアクセシビリティと整理を改善することです。

🚀 クイックスタート

この科学キーワード分類モデルを使用することで、NASAのCMRメタデータから科学キーワードを効果的に分類できます。以下のセクションで詳細をご紹介します。

✨ 主な機能

• 極限多ラベル分類：膨大な数の潜在的なラベル（キーワード）と不均衡な頻度を持つ分類問題に対応します。
• 層化分割：データセットはprovider-idに基づいて分割され、訓練、検証、テストセット間でバランスの取れた表現が維持されます。
• 性能向上：異なる焦点パラメータ（γ）を持つ焦点損失を評価した結果、交差エントロピー損失や以前のモデルに比べて、加重精度、再現率、F1スコア、およびJaccard類似度が大幅に向上しました。

📦 インストール

このモデルはtransformersライブラリを使用しています。インストール方法については、transformersの公式ドキュメントを参照してください。

💻 使用例

基本的な使用法

# Example usage
predicted_indices = [0, 2, 5] # top 3
predicted_labels = [model.config.id2label[idx] for idx in predicted_indices]
print(predicted_labels)

📚 ドキュメント

モデル概要

実験

1. ベースライン (alpha-1.0.1)：交差エントロピー損失を使用。
2. 実験2 (alpha-1.1.1)：γ = 4の焦点損失。
3. 実験3 (alpha-1.1.2)：γ = 2の焦点損失。
4. 最終 (alpha-1.2.1)：層化分割を伴う焦点損失（γ = 2）。

結果

焦点損失と層化サンプリングを使用したモデル（alpha-1.2.1）は、精度、再現率、F1スコア、およびJaccard類似度の点で、他のすべての設定や以前のモデルを上回りました。モデルの様々な閾値における加重メトリックは、下記の画像で確認できます。

技術的な解説はこちらで確認できます。

📄 ライセンス

このプロジェクトはApache-2.0ライセンスの下で提供されています。

🔖 参考文献

• RoBERTa: arXiv
• Focal Loss: arXiv
• NASA CMR
• Previous Model API