Tr Core News Md
模型简介
该模型是TrSpaCy项目的一部分,专门为土耳其语设计,提供全面的自然语言处理功能,包括词性标注、形态分析、依存句法分析和命名实体识别。
模型特点
全面的土耳其语支持
专门为土耳其语设计和优化,处理土耳其语特有的形态和句法特征
多任务处理能力
单一管道同时处理分词、词性标注、形态分析、依存句法分析和命名实体识别
高精度标注
在词性标注(UPOS)上达到90.52%的准确率,命名实体识别F值达到88.94%
预训练词向量
包含50000个唯一词向量(300维),基于Medium-sized Turkish Floret word vectors
模型能力
土耳其语分词
词性标注
形态分析
词形还原
依存句法分析
命名实体识别
句子边界检测
使用案例
文本处理
土耳其语文本标注
自动标注土耳其语文本的词性、形态特征和句法结构
可用于构建土耳其语语言资源或预处理文本
信息提取
从土耳其语文本中提取命名实体(人名、地名、组织名等)
NER F值达到88.94%
语言学研究
土耳其语形态分析
分析土耳其语复杂的形态结构
形态特征准确率88.93%
🚀 土耳其语中型TrSpaCy管道模型
这是一个用于TrSpaCy的土耳其语中型管道模型,包含了tok2vec、tagger、morphologizer、lemmatizer、parser、ner等组件,可用于词性标注、形态分析、命名实体识别等自然语言处理任务。
✨ 主要特性
- 多任务支持:支持词性标注(TAG)、词形还原(LEMMA)、命名实体识别(NER)等多种自然语言处理任务。
- 丰富的标签体系:提供了详细的标签体系,涵盖了多种词性和形态信息。
- 良好的性能表现:在多个任务上取得了较好的准确率和F1值。
📦 安装指南
由于安装工具的更改,模型的轮子名称有所变化。可以使用以下命令安装该模型:
pip install https://huggingface.co/turkish-nlp-suite/tr_core_news_md/resolve/main/tr_core_news_md-1.0-py3-none-any.whl
💻 使用示例
如果你想快速开始使用该模型,可以访问以下Colab笔记本,其中包含了pip安装、将模型加载到spaCy以及一个简单的使用示例: 点击访问Colab笔记本
📚 详细文档
模型信息
属性 | 详情 |
---|---|
模型名称 | tr_core_news_md |
版本 | 3.4.2 |
spaCy版本要求 | >=3.4.2,<3.5.0 |
默认管道 | tok2vec , tagger , morphologizer , trainable_lemmatizer , parser , ner |
组件 | tok2vec , tagger , morphologizer , trainable_lemmatizer , parser , ner |
词向量 | -1个键,50000个唯一向量(300维) |
数据源 | UD Turkish BOUN (Türk, Utku; Atmaca, Furkan; Özateş, Şaziye Betül; Berk, Gözde; Bedir, Seyyit Talha; Köksal, Abdullatif; Öztürk Başaran, Balkız; Güngör, Tunga; Özgür, Arzucan) Turkish Wiki NER dataset (Duygu Altinok, Co-one Istanbul) PANX/WikiANN (Xiaoman Pan, Boliang Zhang, Jonathan May, Joel Nothman, Kevin Knight, Heng Ji) Medium-sized Turkish Floret word vectors (MC4 corpus) (Duygu Altinok) |
许可证 | cc-by-sa-4.0 |
作者 | Duygu Altinok |
标签体系
查看标签体系(4个组件共1572个标签)
组件 | 标签 |
---|---|
tagger |
ADP , ADV , ANum , ANum_Adj , ANum_Ness , ANum_Noun , ANum_With , ANum_Zero , Abr , Abr_With , Adj , Adj_Ness , Adj_With , Adj_Without , Adj_Zero , Adv , Adverb , Adverb_Adverb , Adverb_Noun , Adverb_Zero , Conj , Conj_Conj , DET , Demons , Demons_Zero , Det , Det_Zero , Dup , Interj , NAdj , NAdj_Aux , NAdj_Ness , NAdj_Noun , NAdj_Rel , NAdj_Verb , NAdj_With , NAdj_Without , NAdj_Zero , NNum , NNum_Rel , NNum_Zero , NOUN , Neg , Ness , Noun , Noun_Ness , Noun_Noun , Noun_Rel , Noun_Since , Noun_Verb , Noun_With , Noun_With_Ness , Noun_With_Verb , Noun_With_Zero , Noun_Without , Noun_Zero , PCAbl , PCAbl_Rel , PCAcc , PCDat , PCDat_Zero , PCGen , PCIns , PCIns_Zero , PCNom , PCNom_Adj , PCNom_Noun , PCNom_Zero , PRON , PUNCT , Pers , Pers_Ness , Pers_Pers , Pers_Rel , Pers_Zero , Postp , Prop , Prop_Conj , Prop_Rel , Prop_Since , Prop_With , Prop_Zero , Punc , Punc_Noun_Ness , Punc_Noun_Rel , Quant , Quant_Zero , Ques , Ques_Zero , Reflex , Reflex_Zero , Rel , SYM , Since , Since_Since , Verb , Verb_Conj , Verb_Ness , Verb_Noun , Verb_Verb , Verb_With , Verb_Zero , With , Without , Without_Zero , Zero |
morphologizer |
(此处标签过多,原文已有详细罗列,故省略展示,可查看原文) |
parser |
ROOT , acl , advcl , advmod , advmod:emph , amod , appos , aux , aux:q , case , cc , cc:preconj , ccomp , clf , compound , compound:lvc , compound:redup , conj , cop , csubj , dep , det , discourse , flat , list , mark , nmod , nmod:poss , nsubj , nummod , obj , obl , parataxis , punct , vocative , xcomp |
ner |
CARDINAL , DATE , EVENT , FAC , GPE , LANGUAGE , LAW , LOC , MONEY , NORP , ORDINAL , ORG , PER , PERCENT , PERSON , PRODUCT , QUANTITY , TIME , TITLE , WORK_OF_ART |
准确率
类型 | 得分 |
---|---|
TAG_ACC |
91.42 |
POS_ACC |
90.52 |
MORPH_ACC |
88.93 |
LEMMA_ACC |
81.72 |
DEP_UAS |
72.75 |
DEP_LAS |
63.55 |
SENTS_P |
85.45 |
SENTS_R |
81.61 |
SENTS_F |
83.49 |
ENTS_F |
88.94 |
ENTS_P |
88.90 |
ENTS_R |
88.97 |
🔧 技术细节
该模型基于TrSpaCy构建,使用了多个组件来完成不同的自然语言处理任务。其中,tok2vec组件用于将文本转换为向量表示,tagger组件用于词性标注,morphologizer组件用于形态分析,lemmatizer组件用于词形还原,parser组件用于句法分析,ner组件用于命名实体识别。模型在多个公开数据集上进行了训练,以提高其在不同任务上的性能。
📄 许可证
该模型采用cc-by-sa-4.0
许可证。
相关视频教程
有几个与spaCy土耳其语模型相关的Youtube视频系列,列表如下:
- Hızlı spaCy Türkçe Tarifleri
- Hızlı Bankacılık FAQ Chatbotu
- spaCy modeli nasıl yapılır?
- Baştan sonra Türkçe dilbilimi
引用与研究论文
如果你想在自己的工作中使用该模型,请引用以下论文 A Diverse Set of Freely Available Linguistic Resources for Turkish:
@inproceedings{altinok-2023-diverse,
title = "A Diverse Set of Freely Available Linguistic Resources for {T}urkish",
author = "Altinok, Duygu",
booktitle = "Proceedings of the 61st Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers)",
month = jul,
year = "2023",
address = "Toronto, Canada",
publisher = "Association for Computational Linguistics",
url = "https://aclanthology.org/2023.acl-long.768",
pages = "13739--13750",
abstract = "This study presents a diverse set of freely available linguistic resources for Turkish natural language processing, including corpora, pretrained models and education material. Although Turkish is spoken by a sizeable population of over 80 million people, Turkish linguistic resources for natural language processing remain scarce. In this study, we provide corpora to allow practitioners to build their own applications and pretrained models that would assist industry researchers in creating quick prototypes. The provided corpora include named entity recognition datasets of diverse genres, including Wikipedia articles and supplement products customer reviews. In addition, crawling e-commerce and movie reviews websites, we compiled several sentiment analysis datasets of different genres. Our linguistic resources for Turkish also include pretrained spaCy language models. To the best of our knowledge, our models are the first spaCy models trained for the Turkish language. Finally, we provide various types of education material, such as video tutorials and code examples, that can support the interested audience on practicing Turkish NLP. The advantages of our linguistic resources are three-fold: they are freely available, they are first of their kind, and they are easy to use in a broad range of implementations. Along with a thorough description of the resource creation process, we also explain the position of our resources in the Turkish NLP world.",
}
Indonesian Roberta Base Posp Tagger
MIT
这是一个基于印尼语RoBERTa模型微调的词性标注模型,在indonlu数据集上训练,用于印尼语文本的词性标注任务。
序列标注
Transformers 其他

I
w11wo
2.2M
7
Bert Base NER
MIT
基于BERT微调的命名实体识别模型,可识别四类实体:地点(LOC)、组织机构(ORG)、人名(PER)和杂项(MISC)
序列标注 英语
B
dslim
1.8M
592
Deid Roberta I2b2
MIT
该模型是基于RoBERTa微调的序列标注模型,用于识别和移除医疗记录中的受保护健康信息(PHI/PII)。
序列标注
Transformers 支持多种语言

D
obi
1.1M
33
Ner English Fast
Flair自带的英文快速4类命名实体识别模型,基于Flair嵌入和LSTM-CRF架构,在CoNLL-03数据集上达到92.92的F1分数。
序列标注
PyTorch 英语
N
flair
978.01k
24
French Camembert Postag Model
基于Camembert-base的法语词性标注模型,使用free-french-treebank数据集训练
序列标注
Transformers 法语

F
gilf
950.03k
9
Xlm Roberta Large Ner Spanish
基于XLM-Roberta-large架构微调的西班牙语命名实体识别模型,在CoNLL-2002数据集上表现优异。
序列标注
Transformers 西班牙语

X
MMG
767.35k
29
Nusabert Ner V1.3
MIT
基于NusaBert-v1.3在印尼语NER任务上微调的命名实体识别模型
序列标注
Transformers 其他

N
cahya
759.09k
3
Ner English Large
Flair框架内置的英文4类大型NER模型,基于文档级XLM-R嵌入和FLERT技术,在CoNLL-03数据集上F1分数达94.36。
序列标注
PyTorch 英语
N
flair
749.04k
44
Punctuate All
MIT
基于xlm-roberta-base微调的多语言标点符号预测模型,支持12种欧洲语言的标点符号自动补全
序列标注
Transformers

P
kredor
728.70k
20
Xlm Roberta Ner Japanese
MIT
基于xlm-roberta-base微调的日语命名实体识别模型
序列标注
Transformers 支持多种语言

X
tsmatz
630.71k
25
精选推荐AI模型
Llama 3 Typhoon V1.5x 8b Instruct
专为泰语设计的80亿参数指令模型,性能媲美GPT-3.5-turbo,优化了应用场景、检索增强生成、受限生成和推理任务
大型语言模型
Transformers 支持多种语言

L
scb10x
3,269
16
Cadet Tiny
Openrail
Cadet-Tiny是一个基于SODA数据集训练的超小型对话模型,专为边缘设备推理设计,体积仅为Cosmo-3B模型的2%左右。
对话系统
Transformers 英语

C
ToddGoldfarb
2,691
6
Roberta Base Chinese Extractive Qa
基于RoBERTa架构的中文抽取式问答模型,适用于从给定文本中提取答案的任务。
问答系统 中文
R
uer
2,694
98