Anglicisms Spanish Mbert

🚀 西班牙語英語藉詞檢測mBERT模型

這是一個預訓練模型，用於檢測西班牙語新聞專線中未被同化的英語詞彙藉詞（即英語外來詞）。該模型會對西班牙語中使用的外來詞（主要來自英語）進行標註，例如 fake news（假新聞）、machine learning（機器學習）、smartwatch（智能手錶）、influencer（網紅）或 streaming（流媒體）等詞彙。

該模型是 多語言BERT 的微調版本，在 COALAS 語料庫上針對詞彙藉詞檢測任務進行了訓練。

該模型考慮兩種標籤：

• ENG：用於標註英語詞彙藉詞（如 smartphone、online、podcast）
• OTHER：用於標註來自其他語言的詞彙藉詞（如 boutique、anime、umami）

該模型使用BIO編碼來處理多詞藉詞。

⚠️ 重要提示

這並非該任務表現最佳的模型。如需表現最佳的模型（F1值為85.76），請參閱 Flair模型。

✨ 主要特性

• 能夠檢測西班牙語新聞專線中未被同化的英語詞彙藉詞。
• 對不同來源的詞彙藉詞進行分類標註。
• 使用BIO編碼處理多詞藉詞。

📦 安裝指南

文檔未提及安裝步驟，此處跳過。

💻 使用示例

基礎用法

from transformers import pipeline, AutoModelForTokenClassification, AutoTokenizer

tokenizer = AutoTokenizer.from_pretrained("lirondos/anglicisms-spanish-mbert")
model = AutoModelForTokenClassification.from_pretrained("lirondos/anglicisms-spanish-mbert")
nlp = pipeline("ner", model=model, tokenizer=tokenizer)

example = example = "Buscamos data scientist para proyecto de machine learning."

borrowings = nlp(example)
print(borrowings)

📚 詳細文檔

評估指標（測試集）

以下表格總結了在 COALAS 語料庫測試集上獲得的結果。

數據集

該模型在 COALAS 語料庫上進行訓練，這是一個標註了未同化詞彙藉詞的西班牙語新聞專線語料庫。該語料庫包含370,000個詞元，涵蓋了各種用歐洲西班牙語撰寫的書面媒體。測試集的設計儘可能具有挑戰性：它涵蓋了訓練集中未出現的來源和日期，包含大量未登錄詞（測試集中92%的藉詞是未登錄詞），並且藉詞密度很高（每1000個詞元中有20個藉詞）。

更多信息

有關數據集、模型實驗和錯誤分析的更多信息，請參閱論文：Detecting Unassimilated Borrowings in Spanish: An Annotated Corpus and Approaches to Modeling。

🔧 技術細節

文檔未提供技術實現細節，此處跳過。

📄 許可證

本模型採用CC BY 4.0許可證。

📚 引用

如果您使用此模型，請引用以下文獻：

@inproceedings{alvarez-mellado-lignos-2022-detecting,
    title = "Detecting Unassimilated Borrowings in {S}panish: {A}n Annotated Corpus and Approaches to Modeling",
    author = "{\'A}lvarez-Mellado, Elena  and
      Lignos, Constantine",
    booktitle = "Proceedings of the 60th Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers)",
    month = may,
    year = "2022",
    address = "Dublin, Ireland",
    publisher = "Association for Computational Linguistics",
    url = "https://aclanthology.org/2022.acl-long.268",
    pages = "3868--3888",
    abstract = "This work presents a new resource for borrowing identification and analyzes the performance and errors of several models on this task. We introduce a new annotated corpus of Spanish newswire rich in unassimilated lexical borrowings{---}words from one language that are introduced into another without orthographic adaptation{---}and use it to evaluate how several sequence labeling models (CRF, BiLSTM-CRF, and Transformer-based models) perform. The corpus contains 370,000 tokens and is larger, more borrowing-dense, OOV-rich, and topic-varied than previous corpora available for this task. Our results show that a BiLSTM-CRF model fed with subword embeddings along with either Transformer-based embeddings pretrained on codeswitched data or a combination of contextualized word embeddings outperforms results obtained by a multilingual BERT-based model.",
}