Roberta Large Semeval2012 V2 Mask Prompt A Nce

🚀 relbert/roberta-large-semeval2012-v2-mask-prompt-a-nce

RelBERT 是在 roberta-large 基礎上進行微調得到的模型，微調數據集為 relbert/semeval2012_relational_similarity_v2。微調過程藉助 RelBERT 庫完成（更多細節可查看該倉庫）。該模型在關係理解任務上取得了以下成果：

🚀 快速開始

本模型可通過 relbert 庫 使用。首先，通過 pip 安裝該庫：

pip install relbert

然後，按如下方式激活模型：

from relbert import RelBERT
model = RelBERT("relbert/roberta-large-semeval2012-v2-mask-prompt-a-nce")
vector = model.get_embedding(['Tokyo', 'Japan'])  # shape of (1024, )

✨ 主要特性

RelBERT 基於 roberta-large 進行微調，在多個關係理解任務上表現出色，能夠有效處理類比問題、詞彙關係分類和關係映射等任務。

📦 安裝指南

通過 pip 安裝 relbert 庫：

pip install relbert

💻 使用示例

基礎用法

from relbert import RelBERT
model = RelBERT("relbert/roberta-large-semeval2012-v2-mask-prompt-a-nce")
vector = model.get_embedding(['Tokyo', 'Japan'])  # shape of (1024, )

📚 詳細文檔

評估結果

訓練超參數

以下是訓練過程中使用的超參數：

完整配置可在 微調參數文件 中查看。

🔧 技術細節

RelBERT 基於 roberta-large 模型，通過微調在 relbert/semeval2012_relational_similarity_v2 數據集上進行訓練。微調過程使用了特定的模板和損失函數，通過調整超參數優化模型性能。

📄 許可證

若使用 RelBERT 的任何資源，請考慮引用我們的 論文。

@inproceedings{ushio-etal-2021-distilling-relation-embeddings,
    title = "{D}istilling {R}elation {E}mbeddings from {P}re-trained {L}anguage {M}odels",
    author = "Ushio, Asahi  and
      Schockaert, Steven  and
      Camacho-Collados, Jose",
    booktitle = "EMNLP 2021",
    year = "2021",
    address = "Online",
    publisher = "Association for Computational Linguistics",
}