🚀 Flair中的英文通用詞性標註(默認模型)
本模型是 Flair 自帶的標準英文通用詞性標註模型。它能夠高效準確地對英文文本進行詞性標註,為自然語言處理任務提供重要支持。
F1分數:98.6(基於Ontonotes數據集)
該模型可預測的通用詞性標籤如下:
標籤 |
含義 |
ADJ |
形容詞 |
ADP |
介詞 |
ADV |
副詞 |
AUX |
助動詞 |
CCONJ |
並列連詞 |
DET |
限定詞 |
INTJ |
感嘆詞 |
NOUN |
名詞 |
NUM |
數詞 |
PART |
小品詞 |
PRON |
代詞 |
PROPN |
專有名詞 |
PUNCT |
標點符號 |
SCONJ |
從屬連詞 |
SYM |
符號 |
VERB |
動詞 |
X |
其他 |
本模型基於 Flair嵌入 和LSTM - CRF構建。
🚀 快速開始
🔍 模型使用示例
本模型的使用依賴於 Flair,你可以使用以下命令進行安裝:
pip install flair
以下是使用該模型進行詞性標註的示例代碼:
from flair.data import Sentence
from flair.models import SequenceTagger
tagger = SequenceTagger.load("flair/upos-english")
sentence = Sentence("I love Berlin.")
tagger.predict(sentence)
print(sentence)
print('The following NER tags are found:')
for entity in sentence.get_spans('pos'):
print(entity)
運行上述代碼將產生以下輸出:
Span [1]: "I" [− Labels: PRON (0.9996)]
Span [2]: "love" [− Labels: VERB (1.0)]
Span [3]: "Berlin" [− Labels: PROPN (0.9986)]
Span [4]: "." [− Labels: PUNCT (1.0)]
在句子 "I love Berlin." 中,單詞 "I" 被標註為 代詞(PRON),"love" 被標註為 動詞(VERB),"Berlin" 被標註為 專有名詞(PROPN)。
🛠️ 模型訓練腳本
以下是用於訓練該模型的Flair腳本:
from flair.data import Corpus
from flair.datasets import ColumnCorpus
from flair.embeddings import WordEmbeddings, StackedEmbeddings, FlairEmbeddings
corpus: Corpus = ColumnCorpus(
"resources/tasks/onto-ner",
column_format={0: "text", 1: "pos", 2: "upos", 3: "ner"},
tag_to_bioes="ner",
)
tag_type = 'upos'
tag_dictionary = corpus.make_tag_dictionary(tag_type=tag_type)
embedding_types = [
FlairEmbeddings('news-forward'),
FlairEmbeddings('news-backward'),
]
embeddings = StackedEmbeddings(embeddings=embedding_types)
from flair.models import SequenceTagger
tagger = SequenceTagger(hidden_size=256,
embeddings=embeddings,
tag_dictionary=tag_dictionary,
tag_type=tag_type)
from flair.trainers import ModelTrainer
trainer = ModelTrainer(tagger, corpus)
trainer.train('resources/taggers/upos-english',
train_with_dev=True,
max_epochs=150)
📚 引用信息
使用此模型時,請引用以下論文:
@inproceedings{akbik2018coling,
title={Contextual String Embeddings for Sequence Labeling},
author={Akbik, Alan and Blythe, Duncan and Vollgraf, Roland},
booktitle = {{COLING} 2018, 27th International Conference on Computational Linguistics},
pages = {1638--1649},
year = {2018}
}
❓ 問題反饋
如果你在使用過程中遇到任何問題,可以在 Flair問題跟蹤器 中反饋。