Scandi Nli Large

🚀 ScandiNLI - 斯堪的纳维亚语言自然语言推理模型

ScandiNLI 是一个针对丹麦语、挪威书面语和瑞典语进行自然语言推理的模型。它基于 NbAiLab/nb-bert-large 进行微调，能够有效处理斯堪的纳维亚语言的自然语言推理任务。

我们发布了三种不同规模的斯堪的纳维亚自然语言推理（NLI）模型：

• alexandrainst/scandi-nli-large-v2
• alexandrainst/scandi-nli-large（本模型）
• alexandrainst/scandi-nli-base
• alexandrainst/scandi-nli-small

可以在 这个Hugging Face Space 中查看 large-v2 模型的演示。各模型的性能和大小信息可在下面的“性能”部分查看。

🚀 快速开始

你可以在脚本中按如下方式使用此模型：

>>> from transformers import pipeline
>>> classifier = pipeline(
...     "zero-shot-classification",
...     model="alexandrainst/scandi-nli-large",
... )
>>> classifier(
...     "Mexicansk bokser advarer Messi - 'Du skal bede til gud, om at jeg ikke finder dig'",
...     candidate_labels=['sundhed', 'politik', 'sport', 'religion'],
...     hypothesis_template="Dette eksempel handler om {}",
... )
{'sequence': "Mexicansk bokser advarer Messi - 'Du skal bede til gud, om at jeg ikke finder dig'",
 'labels': ['sport', 'religion', 'politik', 'sundhed'],
 'scores': [0.6134647727012634,
  0.30309760570526123,
  0.05021871626377106,
  0.03321893885731697]}

✨ 主要特性

• 多语言支持：支持丹麦语、挪威书面语和瑞典语三种斯堪的纳维亚语言。
• 多种规模可选：提供大、中、小三种不同规模的模型，可根据需求选择。
• 零样本分类：适用于零样本分类任务，可直接对未见类别进行分类。

📚 详细文档

性能评估

我们对模型在斯堪的纳维亚语言整体性能以及丹麦语、瑞典语和挪威书面语的特定语言性能进行了评估。在所有情况下，我们都报告了马修斯相关系数（MCC）、宏平均 F1 分数以及准确率。

斯堪的纳维亚语言整体评估

斯堪的纳维亚语言的分数是丹麦语、瑞典语和挪威语分数的平均值，具体分数如下：

丹麦语评估

我们使用 DanFEVER 数据集 的测试集来评估模型的丹麦语性能。测试集使用 这个 gist 生成。

瑞典语评估

我们使用 MultiNLI 数据集机器翻译版本的测试集来评估模型的瑞典语性能。我们承认不在黄金标准数据集上进行评估并不理想，但遗憾的是我们不知道有任何瑞典语的 NLI 数据集。

挪威语评估

我们使用 MultiNLI 数据集机器翻译版本的测试集来评估模型的挪威语性能。同样，我们承认不在黄金标准数据集上进行评估并不理想，但遗憾的是我们不知道有任何挪威语的 NLI 数据集。

训练过程

该模型在由 DanFEVER 以及 MultiNLI 和 CommitmentBank 的三种语言机器翻译版本，以及 FEVER 和 Adversarial NLI 的瑞典语机器翻译版本组成的数据集上进行了微调。

DanFEVER 的训练集使用 这个 gist 生成。在训练过程中，三种语言的样本被平等采样，并在 DanFEVER 的验证集以及瑞典语和挪威书面语的 MultiNLI 机器翻译版本的验证集上进行验证，验证集同样平等采样。

你可以查看 Github 仓库 获取训练 ScandiNLI 模型的代码，完整的训练日志可以在 这个 Weights and Biases 报告 中找到。

训练超参数

训练过程中使用了以下超参数：

• 学习率：2e-05
• 训练批次大小：2
• 评估批次大小：2
• 随机种子：4242
• 梯度累积步数：16
• 总训练批次大小：32
• 优化器：Adam（β1 = 0.9，β2 = 0.999，ε = 1e-08）
• 学习率调度器类型：线性
• 学习率调度器热身步数：500
• 最大步数：50,000

🔧 技术细节

• 基础模型：基于 NbAiLab/nb-bert-large 进行微调。
• 数据集：使用了多个数据集，包括 DanFEVER、MultiNLI、CommitmentBank、FEVER 和 Adversarial NLI 等数据集的机器翻译版本。
• 训练策略：三种语言在训练和验证时平等采样，确保模型对三种语言的性能均衡。

📄 许可证

本模型采用 Apache-2.0 许可证。