Deformer

🚀 DeFormer

DeFormer是一个经过训练的模型，用于区分瑞典语句子中的 de 和 dem。你可以在右侧 Hosted Inference API 面板中直接测试该模型，只需输入一个句子并点击 Compute 即可。

2023年5月6日更新： 现在，该模型还能够处理 det 中丢失的字母 "t"。新版本经过训练，可区分 de、det 和 dem，以及 enda 和 ända。

🚀 快速开始

在测试时，请仅使用小写的 de、dem、enda、ända。在模型训练过程中，所有的 "De" 和 "Dem" 都被转换为了小写。

📦 训练数据

DeFormer 在来自欧洲议会和瑞典语维基媒体的句子上进行了训练。这些数据从 OPUS 获取。选择这些数据源是因为它们被认为具有正确的语言用法。

在构建训练数据集时，仅保留了包含 de、dem、det、enda 或 ända 的句子。下表展示了从各个数据集保留的句子数量的描述性统计信息，以及每个单词的出现频率。

在训练 DeFormer 时，引入了随机替换操作，即将上述单词替换为它们通常容易混淆的形式。然后，模型需要对给定的单词是否属于以下类别进行分类：

1. ord（所有非 de/dem 的背景词都属于此类）
2. DE
3. DEM
4. DET
5. ENDA
6. ÄNDA

在将观测数据输入模型训练之前，de 大约有 50% 的概率被替换为 det 或 dem，而 dem 有 40% 的情况被替换为 de。enda 和 ända 之间也进行了类似的替换。

🎯 准确率

DeFormer 在一个验证集上进行了评估，该验证集包含 31200 个句子，这些句子与模型训练时使用的数据源相同（瑞典语维基 + 欧洲议会 + JRC）。为了挑战模型，引入了随机错误。原始句子中出现的 de 有 47% 被改为 dem，而 dem 有 40% 被改为 de。下表显示 DeFormer 的准确率非常高。模型输出的少数 “错误” 预测几乎都是带有插入语的 de/dem som 结构。实际上，其中大多数不能被视为错误，因为 两种形式都是被接受的。

注意： 下表适用于仅区分 de 和 dem 的旧版本 DeFormer。

💻 使用示例

示例展示