Tr Core News Md
模型概述
該模型是TrSpaCy項目的一部分,專門為土耳其語設計,提供全面的自然語言處理功能,包括詞性標註、形態分析、依存句法分析和命名實體識別。
模型特點
全面的土耳其語支持
專門為土耳其語設計和優化,處理土耳其語特有的形態和句法特徵
多任務處理能力
單一管道同時處理分詞、詞性標註、形態分析、依存句法分析和命名實體識別
高精度標註
在詞性標註(UPOS)上達到90.52%的準確率,命名實體識別F值達到88.94%
預訓練詞向量
包含50000個唯一詞向量(300維),基於Medium-sized Turkish Floret word vectors
模型能力
土耳其語分詞
詞性標註
形態分析
詞形還原
依存句法分析
命名實體識別
句子邊界檢測
使用案例
文本處理
土耳其語文本標註
自動標註土耳其語文本的詞性、形態特徵和句法結構
可用於構建土耳其語語言資源或預處理文本
信息提取
從土耳其語文本中提取命名實體(人名、地名、組織名等)
NER F值達到88.94%
語言學研究
土耳其語形態分析
分析土耳其語複雜的形態結構
形態特徵準確率88.93%
🚀 土耳其語中型TrSpaCy管道模型
這是一個用於TrSpaCy的土耳其語中型管道模型,包含了tok2vec、tagger、morphologizer、lemmatizer、parser、ner等組件,可用於詞性標註、形態分析、命名實體識別等自然語言處理任務。
✨ 主要特性
- 多任務支持:支持詞性標註(TAG)、詞形還原(LEMMA)、命名實體識別(NER)等多種自然語言處理任務。
- 豐富的標籤體系:提供了詳細的標籤體系,涵蓋了多種詞性和形態信息。
- 良好的性能表現:在多個任務上取得了較好的準確率和F1值。
📦 安裝指南
由於安裝工具的更改,模型的輪子名稱有所變化。可以使用以下命令安裝該模型:
pip install https://huggingface.co/turkish-nlp-suite/tr_core_news_md/resolve/main/tr_core_news_md-1.0-py3-none-any.whl
💻 使用示例
如果你想快速開始使用該模型,可以訪問以下Colab筆記本,其中包含了pip安裝、將模型加載到spaCy以及一個簡單的使用示例: 點擊訪問Colab筆記本
📚 詳細文檔
模型信息
屬性 | 詳情 |
---|---|
模型名稱 | tr_core_news_md |
版本 | 3.4.2 |
spaCy版本要求 | >=3.4.2,<3.5.0 |
默認管道 | tok2vec , tagger , morphologizer , trainable_lemmatizer , parser , ner |
組件 | tok2vec , tagger , morphologizer , trainable_lemmatizer , parser , ner |
詞向量 | -1個鍵,50000個唯一向量(300維) |
數據源 | UD Turkish BOUN (Türk, Utku; Atmaca, Furkan; Özateş, Şaziye Betül; Berk, Gözde; Bedir, Seyyit Talha; Köksal, Abdullatif; Öztürk Başaran, Balkız; Güngör, Tunga; Özgür, Arzucan) Turkish Wiki NER dataset (Duygu Altinok, Co-one Istanbul) PANX/WikiANN (Xiaoman Pan, Boliang Zhang, Jonathan May, Joel Nothman, Kevin Knight, Heng Ji) Medium-sized Turkish Floret word vectors (MC4 corpus) (Duygu Altinok) |
許可證 | cc-by-sa-4.0 |
作者 | Duygu Altinok |
標籤體系
查看標籤體系(4個組件共1572個標籤)
組件 | 標籤 |
---|---|
tagger |
ADP , ADV , ANum , ANum_Adj , ANum_Ness , ANum_Noun , ANum_With , ANum_Zero , Abr , Abr_With , Adj , Adj_Ness , Adj_With , Adj_Without , Adj_Zero , Adv , Adverb , Adverb_Adverb , Adverb_Noun , Adverb_Zero , Conj , Conj_Conj , DET , Demons , Demons_Zero , Det , Det_Zero , Dup , Interj , NAdj , NAdj_Aux , NAdj_Ness , NAdj_Noun , NAdj_Rel , NAdj_Verb , NAdj_With , NAdj_Without , NAdj_Zero , NNum , NNum_Rel , NNum_Zero , NOUN , Neg , Ness , Noun , Noun_Ness , Noun_Noun , Noun_Rel , Noun_Since , Noun_Verb , Noun_With , Noun_With_Ness , Noun_With_Verb , Noun_With_Zero , Noun_Without , Noun_Zero , PCAbl , PCAbl_Rel , PCAcc , PCDat , PCDat_Zero , PCGen , PCIns , PCIns_Zero , PCNom , PCNom_Adj , PCNom_Noun , PCNom_Zero , PRON , PUNCT , Pers , Pers_Ness , Pers_Pers , Pers_Rel , Pers_Zero , Postp , Prop , Prop_Conj , Prop_Rel , Prop_Since , Prop_With , Prop_Zero , Punc , Punc_Noun_Ness , Punc_Noun_Rel , Quant , Quant_Zero , Ques , Ques_Zero , Reflex , Reflex_Zero , Rel , SYM , Since , Since_Since , Verb , Verb_Conj , Verb_Ness , Verb_Noun , Verb_Verb , Verb_With , Verb_Zero , With , Without , Without_Zero , Zero |
morphologizer |
(此處標籤過多,原文已有詳細羅列,故省略展示,可查看原文) |
parser |
ROOT , acl , advcl , advmod , advmod:emph , amod , appos , aux , aux:q , case , cc , cc:preconj , ccomp , clf , compound , compound:lvc , compound:redup , conj , cop , csubj , dep , det , discourse , flat , list , mark , nmod , nmod:poss , nsubj , nummod , obj , obl , parataxis , punct , vocative , xcomp |
ner |
CARDINAL , DATE , EVENT , FAC , GPE , LANGUAGE , LAW , LOC , MONEY , NORP , ORDINAL , ORG , PER , PERCENT , PERSON , PRODUCT , QUANTITY , TIME , TITLE , WORK_OF_ART |
準確率
類型 | 得分 |
---|---|
TAG_ACC |
91.42 |
POS_ACC |
90.52 |
MORPH_ACC |
88.93 |
LEMMA_ACC |
81.72 |
DEP_UAS |
72.75 |
DEP_LAS |
63.55 |
SENTS_P |
85.45 |
SENTS_R |
81.61 |
SENTS_F |
83.49 |
ENTS_F |
88.94 |
ENTS_P |
88.90 |
ENTS_R |
88.97 |
🔧 技術細節
該模型基於TrSpaCy構建,使用了多個組件來完成不同的自然語言處理任務。其中,tok2vec組件用於將文本轉換為向量表示,tagger組件用於詞性標註,morphologizer組件用於形態分析,lemmatizer組件用於詞形還原,parser組件用於句法分析,ner組件用於命名實體識別。模型在多個公開數據集上進行了訓練,以提高其在不同任務上的性能。
📄 許可證
該模型採用cc-by-sa-4.0
許可證。
相關視頻教程
有幾個與spaCy土耳其語模型相關的Youtube視頻系列,列表如下:
- Hızlı spaCy Türkçe Tarifleri
- Hızlı Bankacılık FAQ Chatbotu
- spaCy modeli nasıl yapılır?
- Baştan sonra Türkçe dilbilimi
引用與研究論文
如果你想在自己的工作中使用該模型,請引用以下論文 A Diverse Set of Freely Available Linguistic Resources for Turkish:
@inproceedings{altinok-2023-diverse,
title = "A Diverse Set of Freely Available Linguistic Resources for {T}urkish",
author = "Altinok, Duygu",
booktitle = "Proceedings of the 61st Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers)",
month = jul,
year = "2023",
address = "Toronto, Canada",
publisher = "Association for Computational Linguistics",
url = "https://aclanthology.org/2023.acl-long.768",
pages = "13739--13750",
abstract = "This study presents a diverse set of freely available linguistic resources for Turkish natural language processing, including corpora, pretrained models and education material. Although Turkish is spoken by a sizeable population of over 80 million people, Turkish linguistic resources for natural language processing remain scarce. In this study, we provide corpora to allow practitioners to build their own applications and pretrained models that would assist industry researchers in creating quick prototypes. The provided corpora include named entity recognition datasets of diverse genres, including Wikipedia articles and supplement products customer reviews. In addition, crawling e-commerce and movie reviews websites, we compiled several sentiment analysis datasets of different genres. Our linguistic resources for Turkish also include pretrained spaCy language models. To the best of our knowledge, our models are the first spaCy models trained for the Turkish language. Finally, we provide various types of education material, such as video tutorials and code examples, that can support the interested audience on practicing Turkish NLP. The advantages of our linguistic resources are three-fold: they are freely available, they are first of their kind, and they are easy to use in a broad range of implementations. Along with a thorough description of the resource creation process, we also explain the position of our resources in the Turkish NLP world.",
}
Indonesian Roberta Base Posp Tagger
MIT
這是一個基於印尼語RoBERTa模型微調的詞性標註模型,在indonlu數據集上訓練,用於印尼語文本的詞性標註任務。
序列標註
Transformers 其他

I
w11wo
2.2M
7
Bert Base NER
MIT
基於BERT微調的命名實體識別模型,可識別四類實體:地點(LOC)、組織機構(ORG)、人名(PER)和雜項(MISC)
序列標註 英語
B
dslim
1.8M
592
Deid Roberta I2b2
MIT
該模型是基於RoBERTa微調的序列標註模型,用於識別和移除醫療記錄中的受保護健康信息(PHI/PII)。
序列標註
Transformers 支持多種語言

D
obi
1.1M
33
Ner English Fast
Flair自帶的英文快速4類命名實體識別模型,基於Flair嵌入和LSTM-CRF架構,在CoNLL-03數據集上達到92.92的F1分數。
序列標註
PyTorch 英語
N
flair
978.01k
24
French Camembert Postag Model
基於Camembert-base的法語詞性標註模型,使用free-french-treebank數據集訓練
序列標註
Transformers 法語

F
gilf
950.03k
9
Xlm Roberta Large Ner Spanish
基於XLM-Roberta-large架構微調的西班牙語命名實體識別模型,在CoNLL-2002數據集上表現優異。
序列標註
Transformers 西班牙語

X
MMG
767.35k
29
Nusabert Ner V1.3
MIT
基於NusaBert-v1.3在印尼語NER任務上微調的命名實體識別模型
序列標註
Transformers 其他

N
cahya
759.09k
3
Ner English Large
Flair框架內置的英文4類大型NER模型,基於文檔級XLM-R嵌入和FLERT技術,在CoNLL-03數據集上F1分數達94.36。
序列標註
PyTorch 英語
N
flair
749.04k
44
Punctuate All
MIT
基於xlm-roberta-base微調的多語言標點符號預測模型,支持12種歐洲語言的標點符號自動補全
序列標註
Transformers

P
kredor
728.70k
20
Xlm Roberta Ner Japanese
MIT
基於xlm-roberta-base微調的日語命名實體識別模型
序列標註
Transformers 支持多種語言

X
tsmatz
630.71k
25
精選推薦AI模型
Llama 3 Typhoon V1.5x 8b Instruct
專為泰語設計的80億參數指令模型,性能媲美GPT-3.5-turbo,優化了應用場景、檢索增強生成、受限生成和推理任務
大型語言模型
Transformers 支持多種語言

L
scb10x
3,269
16
Cadet Tiny
Openrail
Cadet-Tiny是一個基於SODA數據集訓練的超小型對話模型,專為邊緣設備推理設計,體積僅為Cosmo-3B模型的2%左右。
對話系統
Transformers 英語

C
ToddGoldfarb
2,691
6
Roberta Base Chinese Extractive Qa
基於RoBERTa架構的中文抽取式問答模型,適用於從給定文本中提取答案的任務。
問答系統 中文
R
uer
2,694
98