Scandi Nli Large

🚀 ScandiNLI - 斯堪的納維亞語言自然語言推理模型

ScandiNLI 是一個針對丹麥語、挪威書面語和瑞典語進行自然語言推理的模型。它基於 NbAiLab/nb-bert-large 進行微調，能夠有效處理斯堪的納維亞語言的自然語言推理任務。

我們發佈了三種不同規模的斯堪的納維亞自然語言推理（NLI）模型：

• alexandrainst/scandi-nli-large-v2
• alexandrainst/scandi-nli-large（本模型）
• alexandrainst/scandi-nli-base
• alexandrainst/scandi-nli-small

可以在 這個Hugging Face Space 中查看 large-v2 模型的演示。各模型的性能和大小信息可在下面的“性能”部分查看。

🚀 快速開始

你可以在腳本中按如下方式使用此模型：

>>> from transformers import pipeline
>>> classifier = pipeline(
...     "zero-shot-classification",
...     model="alexandrainst/scandi-nli-large",
... )
>>> classifier(
...     "Mexicansk bokser advarer Messi - 'Du skal bede til gud, om at jeg ikke finder dig'",
...     candidate_labels=['sundhed', 'politik', 'sport', 'religion'],
...     hypothesis_template="Dette eksempel handler om {}",
... )
{'sequence': "Mexicansk bokser advarer Messi - 'Du skal bede til gud, om at jeg ikke finder dig'",
 'labels': ['sport', 'religion', 'politik', 'sundhed'],
 'scores': [0.6134647727012634,
  0.30309760570526123,
  0.05021871626377106,
  0.03321893885731697]}

✨ 主要特性

• 多語言支持：支持丹麥語、挪威書面語和瑞典語三種斯堪的納維亞語言。
• 多種規模可選：提供大、中、小三種不同規模的模型，可根據需求選擇。
• 零樣本分類：適用於零樣本分類任務，可直接對未見類別進行分類。

📚 詳細文檔

性能評估

我們對模型在斯堪的納維亞語言整體性能以及丹麥語、瑞典語和挪威書面語的特定語言性能進行了評估。在所有情況下，我們都報告了馬修斯相關係數（MCC）、宏平均 F1 分數以及準確率。

斯堪的納維亞語言整體評估

斯堪的納維亞語言的分數是丹麥語、瑞典語和挪威語分數的平均值，具體分數如下：

丹麥語評估

我們使用 DanFEVER 數據集 的測試集來評估模型的丹麥語性能。測試集使用 這個 gist 生成。

瑞典語評估

我們使用 MultiNLI 數據集機器翻譯版本的測試集來評估模型的瑞典語性能。我們承認不在黃金標準數據集上進行評估並不理想，但遺憾的是我們不知道有任何瑞典語的 NLI 數據集。

挪威語評估

我們使用 MultiNLI 數據集機器翻譯版本的測試集來評估模型的挪威語性能。同樣，我們承認不在黃金標準數據集上進行評估並不理想，但遺憾的是我們不知道有任何挪威語的 NLI 數據集。

訓練過程

該模型在由 DanFEVER 以及 MultiNLI 和 CommitmentBank 的三種語言機器翻譯版本，以及 FEVER 和 Adversarial NLI 的瑞典語機器翻譯版本組成的數據集上進行了微調。

DanFEVER 的訓練集使用 這個 gist 生成。在訓練過程中，三種語言的樣本被平等採樣，並在 DanFEVER 的驗證集以及瑞典語和挪威書面語的 MultiNLI 機器翻譯版本的驗證集上進行驗證，驗證集同樣平等採樣。

你可以查看 Github 倉庫 獲取訓練 ScandiNLI 模型的代碼，完整的訓練日誌可以在 這個 Weights and Biases 報告 中找到。

訓練超參數

訓練過程中使用了以下超參數：

• 學習率：2e-05
• 訓練批次大小：2
• 評估批次大小：2
• 隨機種子：4242
• 梯度累積步數：16
• 總訓練批次大小：32
• 優化器：Adam（β1 = 0.9，β2 = 0.999，ε = 1e-08）
• 學習率調度器類型：線性
• 學習率調度器熱身步數：500
• 最大步數：50,000

🔧 技術細節

• 基礎模型：基於 NbAiLab/nb-bert-large 進行微調。
• 數據集：使用了多個數據集，包括 DanFEVER、MultiNLI、CommitmentBank、FEVER 和 Adversarial NLI 等數據集的機器翻譯版本。
• 訓練策略：三種語言在訓練和驗證時平等採樣，確保模型對三種語言的性能均衡。

📄 許可證

本模型採用 Apache-2.0 許可證。