Ner Disease Ncbi Bionlp Bc5cdr Pubmed

🚀 NERによる遺伝子と遺伝子産物の検出

このモデルは、遺伝子と遺伝子産物を見つけるための名前付きエンティティ認識（NER）モデルです。ncbi-diseaseとBC5CDRデータセットで学習され、pubmed-pretrained roberta modelで事前学習されています。

🚀 クイックスタート

このモデルは、ncbi-disease、BC5CDRデータセットで学習され、pubmed-pretrained roberta modelで事前学習されています。

すべてのラベル、つまり可能なトークンクラスは以下の通りです。

{"label2id": {
    "O": 0,
    "Disease":1,
  }
 }

注意: データラベルから 'B-'、'I-' などを削除しました。🗡

✨ 主な機能

モデル使用のためのテンプレート

from transformers import pipeline
PRETRAINED = "raynardj/ner-disease-ncbi-bionlp-bc5cdr-pubmed"
ner = pipeline(task="ner",model=PRETRAINED, tokenizer=PRETRAINED)
ner("Your text", aggregation_strategy="first")

出力を連続的にする方法

import pandas as pd
from transformers import AutoTokenizer
tokenizer = AutoTokenizer.from_pretrained(PRETRAINED)
def clean_output(outputs):
    results = []
    current = []
    last_idx = 0
    # make to sub group by position
    for output in outputs:
        if output["index"]-1==last_idx:
            current.append(output)
        else:
            results.append(current)
            current = [output, ]
        last_idx = output["index"]
    if len(current)>0:
        results.append(current)
    
    # from tokens to string
    strings = []
    for c in results:
        tokens = []
        starts = []
        ends = []
        for o in c:
            tokens.append(o['word'])
            starts.append(o['start'])
            ends.append(o['end'])
        new_str = tokenizer.convert_tokens_to_string(tokens)
        if new_str!='':
            strings.append(dict(
                word=new_str,
                start = min(starts),
                end = max(ends),
                entity = c[0]['entity']
            ))
    return strings
def entity_table(pipeline, **pipeline_kw):
    if "aggregation_strategy" not in pipeline_kw:
        pipeline_kw["aggregation_strategy"] = "first"
    def create_table(text):
        return pd.DataFrame(
            clean_output(
                pipeline(text, **pipeline_kw)
            )
        )
    return create_table
# will return a dataframe
entity_table(ner)(YOUR_VERY_CONTENTFUL_TEXT)

私たちのNERモデルを確認してください。

• 遺伝子と遺伝子産物
• 化学物質
• 疾病

📄 ライセンス

このプロジェクトはApache-2.0ライセンスの下でライセンスされています。