Bert Fda Nutrition Ner

🚀 sgarbi/bert-fda-nutrition-ner模型

这是一个专门为营养标签领域的命名实体识别（NER）设计的BERT模型。其主要目标是从文本数据中检测和分类不同的营养成分，从而为理解营养标签和其他营养材料中的信息提供系统的方法。该模型还可作为从增强数据中训练模型的基准和学习工具。

🚀 快速开始

此模型可直接从Hugging Face平台加载使用，以下是简单的使用示例：

# 假设使用Hugging Face的transformers库
from transformers import AutoTokenizer, AutoModelForTokenClassification
import torch

# 加载模型和分词器
tokenizer = AutoTokenizer.from_pretrained("sgarbi/bert-fda-nutrition-ner")
model = AutoModelForTokenClassification.from_pretrained("sgarbi/bert-fda-nutrition-ner")

# 输入文本
text = "Here are the ingredients to use: Tomato Paste, Sesame Oil, Cheese Cultures, Ground Corn, Vegetable Oil, Brown rice, sea salt, Tomatoes, Milk, Onions, Egg Yolks, Lime Juice Concentrate, Corn Starch, Condensed Milk, Spices, Artificial Flavor, red 5, roasted coffee"

# 分词
inputs = tokenizer(text, return_tensors="pt")

# 模型推理
with torch.no_grad():
    outputs = model(**inputs)

# 获取预测结果
predictions = torch.argmax(outputs.logits, dim=2)

# 打印预测结果
print(predictions)

✨ 主要特性

• 精准识别：能够准确识别营养标签文本中的各种营养成分实体。
• 多数据源训练：使用了来自美国食品药品监督管理局（FDA）、Yelp餐厅评论和亚马逊食品评论等多源数据进行训练，增强了模型的泛化能力。
• 数据增强：通过引入噪声等数据增强技术，提高了模型处理真实世界不完美数据的能力。

📦 安装指南

如果你想使用这个模型，可通过以下步骤安装所需依赖：

pip install transformers torch

💻 使用示例

基础用法

# 上述快速开始中的代码示例
from transformers import AutoTokenizer, AutoModelForTokenClassification
import torch

tokenizer = AutoTokenizer.from_pretrained("sgarbi/bert-fda-nutrition-ner")
model = AutoModelForTokenClassification.from_pretrained("sgarbi/bert-fda-nutrition-ner")

text = "Here are the ingredients to use: Tomato Paste, Sesame Oil, Cheese Cultures, Ground Corn, Vegetable Oil, Brown rice, sea salt, Tomatoes, Milk, Onions, Egg Yolks, Lime Juice Concentrate, Corn Starch, Condensed Milk, Spices, Artificial Flavor, red 5, roasted coffee"

inputs = tokenizer(text, return_tensors="pt")

with torch.no_grad():
    outputs = model(**inputs)

predictions = torch.argmax(outputs.logits, dim=2)

print(predictions)

高级用法

# 批量处理文本数据
from transformers import AutoTokenizer, AutoModelForTokenClassification
import torch

tokenizer = AutoTokenizer.from_pretrained("sgarbi/bert-fda-nutrition-ner")
model = AutoModelForTokenClassification.from_pretrained("sgarbi/bert-fda-nutrition-ner")

texts = [
    "Here are the ingredients to use: Tomato Paste, Sesame Oil, Cheese Cultures, Ground Corn, Vegetable Oil, Brown rice, sea salt, Tomatoes, Milk, Onions, Egg Yolks, Lime Juice Concentrate, Corn Starch, Condensed Milk, Spices, Artificial Flavor, red 5, roasted coffee",
    "Beef: 250 calories per 100g Chicken: 165 calories per 100g Salmon: 206 calories per 100g Tofu: 76 calories per 100g Lentils: 116 calories per 100g Carrots: 41 calories per 100g Spinach: 23 calories per 100g Apples: 52 calories per 100g Bananas: 89 calories per 100g Oranges: 47 calories per 100g Rice: 130 calories per 100g cooked Pasta: 131 calories per 100g cooked Bread: 265 calories per 100g Olive oil: 884 calories per 100g Butter: 717 calories per 100g"
]

inputs = tokenizer(texts, return_tensors="pt", padding=True, truncation=True)

with torch.no_grad():
    outputs = model(**inputs)

predictions = torch.argmax(outputs.logits, dim=2)

print(predictions)

📚 详细文档

训练数据描述

sgarbi/bert-fda-nutrition-ner 模型的训练数据经过精心策划，主要来源于以下几个方面：

数据来源

预处理和增强步骤

• 提取：从FDA数据集中提取关键文本数据，包括营养事实和成分列表。
• 归一化：对所有文本进行归一化处理，包括转换为小写和去除冗余格式。
• 实体标注：手动标注重要的营养元素，创建用于训练的标注数据集，包括宏营养素、维生素、矿物质和各种特定的饮食成分。
• 分词和格式化：对数据进行分词和格式化，以满足BERT模型的输入要求。
• 引入噪声：为了提高模型处理真实世界不完美数据的能力，在训练集中引入了故意噪声，包括句子交换和引入拼写错误。

注意事项

• 数据使用：模型仅使用了食品产品标签的公开数据，未使用任何私人或敏感数据。
• 标注问题：标注任务由mistral.ai提供的Mistral 7B-Instruct执行（https://docs.mistral.ai/），标注过程中可能出现幻觉现象，导致分类不准确。
• 功能限制：该工具仅从文本中提取营养实体，不能用于营养或健康建议，营养建议应由专业专家提供。
• 语言偏差：某些类型食品产品标签的语言和措辞可能会给模型带来偏差。
• 模型用途：此模型主要用于探索BERT架构和NER任务。

标签映射

label_map = {
    0: 'O',
    1: 'I-VITAMINS',
    2: 'I-STIMULANTS',
    3: 'I-PROXIMATES',
    4: 'I-PROTEIN',
    5: 'I-PROBIOTICS',
    6: 'I-MINERALS',
    7: 'I-LIPIDS',
    8: 'I-FLAVORING',
    9: 'I-ENZYMES',
    10: 'I-EMULSIFIERS',
    11: 'I-DIETARYFIBER',
    12: 'I-COLORANTS',
    13: 'I-CARBOHYDRATES',
    14: 'I-ANTIOXIDANTS',
    15: 'I-ALCOHOLS',
    16: 'I-ADDITIVES',
    17: 'I-ACIDS',
    18: 'B-VITAMINS',
    19: 'B-STIMULANTS',
    20: 'B-PROXIMATES',
    21: 'B-PROTEIN',
    22: 'B-PROBIOTICS',
    23: 'B-MINERALS',
    24: 'B-LIPIDS',
    25: 'B-FLAVORING',
    26: 'B-ENZYMES',
    27: 'B-EMULSIFIERS',
    28: 'B-DIETARYFIBER',
    29: 'B-COLORANTS',
    30: 'B-CARBOHYDRATES',
    31: 'B-ANTIOXIDANTS',
    32: 'B-ALCOHOLS',
    33: 'B-ADDITIVES',
    34: 'B-ACIDS'
}

示例输出

INPUT:
'Here are the ingredients to use: Tomato Paste, Sesame Oil, Cheese Cultures,  Ground Corn, Vegetable Oil, Brown rice, sea salt, Tomatoes, Milk, Onions, Egg Yolks, Lime Juice Concentrate, Corn Starch, Condensed Milk, Spices, Artificial Flavor, red 5, roasted coffee'

Output:
['CLS', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B-CARBOHYDRATES', 'I-CARBOHYDRATES', 'O', 'B-LIPIDS', 'I-LIPIDS', 'O', 'B-PROBIOTICS', 'I-PROBIOTICS', 'O', 'B-CARBOHYDRATES', 'I-CARBOHYDRATES', 'O', 'B-LIPIDS', 'I-LIPIDS', 'O', 'B-CARBOHYDRATES', 'I-CARBOHYDRATES', 'O', 'B-MINERALS', 'I-MINERALS', 'O', 'B-CARBOHYDRATES', 'O', 'B-PROXIMATES', 'O', 'B-CARBOHYDRATES', 'O', 'B-LIPIDS', 'I-LIPIDS', 'I-LIPIDS', 'I-LIPIDS', 'O', 'B-CARBOHYDRATES', 'I-CARBOHYDRATES', 'I-CARBOHYDRATES', 'O', 'B-CARBOHYDRATES', 'I-CARBOHYDRATES', 'I-CARBOHYDRATES', 'O', 'B-PROXIMATES', 'I-PROXIMATES', 'O', 'B-FLAVORING', 'O', 'B-FLAVORING', 'I-FLAVORING', 'O', 'B-COLORANTS', 'I-COLORANTS', 'O', 'B-STIMULANTS', 'I-STIMULANTS', 'O', 'I-STIMULANTS']

代码仓库

https://github.com/ESgarbi/bert-fda-nutrition-ner

📄 许可证

本项目采用MIT许可证。