Deformer

🚀 DeFormer

DeFormer是一個經過訓練的模型，用於區分瑞典語句子中的 de 和 dem。你可以在右側 Hosted Inference API 面板中直接測試該模型，只需輸入一個句子並點擊 Compute 即可。

2023年5月6日更新： 現在，該模型還能夠處理 det 中丟失的字母 "t"。新版本經過訓練，可區分 de、det 和 dem，以及 enda 和 ända。

🚀 快速開始

在測試時，請僅使用小寫的 de、dem、enda、ända。在模型訓練過程中，所有的 "De" 和 "Dem" 都被轉換為了小寫。

📦 訓練數據

DeFormer 在來自歐洲議會和瑞典語維基媒體的句子上進行了訓練。這些數據從 OPUS 獲取。選擇這些數據源是因為它們被認為具有正確的語言用法。

在構建訓練數據集時，僅保留了包含 de、dem、det、enda 或 ända 的句子。下表展示了從各個數據集保留的句子數量的描述性統計信息，以及每個單詞的出現頻率。

在訓練 DeFormer 時，引入了隨機替換操作，即將上述單詞替換為它們通常容易混淆的形式。然後，模型需要對給定的單詞是否屬於以下類別進行分類：

1. ord（所有非 de/dem 的背景詞都屬於此類）
2. DE
3. DEM
4. DET
5. ENDA
6. ÄNDA

在將觀測數據輸入模型訓練之前，de 大約有 50% 的概率被替換為 det 或 dem，而 dem 有 40% 的情況被替換為 de。enda 和 ända 之間也進行了類似的替換。

🎯 準確率

DeFormer 在一個驗證集上進行了評估，該驗證集包含 31200 個句子，這些句子與模型訓練時使用的數據源相同（瑞典語維基 + 歐洲議會 + JRC）。為了挑戰模型，引入了隨機錯誤。原始句子中出現的 de 有 47% 被改為 dem，而 dem 有 40% 被改為 de。下表顯示 DeFormer 的準確率非常高。模型輸出的少數 “錯誤” 預測幾乎都是帶有插入語的 de/dem som 結構。實際上，其中大多數不能被視為錯誤，因為 兩種形式都是被接受的。

注意： 下表適用於僅區分 de 和 dem 的舊版本 DeFormer。

💻 使用示例

示例展示