Bert Fda Nutrition Ner

🚀 sgarbi/bert-fda-nutrition-ner模型

這是一個專門為營養標籤領域的命名實體識別（NER）設計的BERT模型。其主要目標是從文本數據中檢測和分類不同的營養成分，從而為理解營養標籤和其他營養材料中的信息提供系統的方法。該模型還可作為從增強數據中訓練模型的基準和學習工具。

🚀 快速開始

此模型可直接從Hugging Face平臺加載使用，以下是簡單的使用示例：

# 假設使用Hugging Face的transformers庫
from transformers import AutoTokenizer, AutoModelForTokenClassification
import torch

# 加載模型和分詞器
tokenizer = AutoTokenizer.from_pretrained("sgarbi/bert-fda-nutrition-ner")
model = AutoModelForTokenClassification.from_pretrained("sgarbi/bert-fda-nutrition-ner")

# 輸入文本
text = "Here are the ingredients to use: Tomato Paste, Sesame Oil, Cheese Cultures, Ground Corn, Vegetable Oil, Brown rice, sea salt, Tomatoes, Milk, Onions, Egg Yolks, Lime Juice Concentrate, Corn Starch, Condensed Milk, Spices, Artificial Flavor, red 5, roasted coffee"

# 分詞
inputs = tokenizer(text, return_tensors="pt")

# 模型推理
with torch.no_grad():
    outputs = model(**inputs)

# 獲取預測結果
predictions = torch.argmax(outputs.logits, dim=2)

# 打印預測結果
print(predictions)

✨ 主要特性

• 精準識別：能夠準確識別營養標籤文本中的各種營養成分實體。
• 多數據源訓練：使用了來自美國食品藥品監督管理局（FDA）、Yelp餐廳評論和亞馬遜食品評論等多源數據進行訓練，增強了模型的泛化能力。
• 數據增強：通過引入噪聲等數據增強技術，提高了模型處理真實世界不完美數據的能力。

📦 安裝指南

如果你想使用這個模型，可通過以下步驟安裝所需依賴：

pip install transformers torch

💻 使用示例

基礎用法

# 上述快速開始中的代碼示例
from transformers import AutoTokenizer, AutoModelForTokenClassification
import torch

tokenizer = AutoTokenizer.from_pretrained("sgarbi/bert-fda-nutrition-ner")
model = AutoModelForTokenClassification.from_pretrained("sgarbi/bert-fda-nutrition-ner")

text = "Here are the ingredients to use: Tomato Paste, Sesame Oil, Cheese Cultures, Ground Corn, Vegetable Oil, Brown rice, sea salt, Tomatoes, Milk, Onions, Egg Yolks, Lime Juice Concentrate, Corn Starch, Condensed Milk, Spices, Artificial Flavor, red 5, roasted coffee"

inputs = tokenizer(text, return_tensors="pt")

with torch.no_grad():
    outputs = model(**inputs)

predictions = torch.argmax(outputs.logits, dim=2)

print(predictions)

高級用法

# 批量處理文本數據
from transformers import AutoTokenizer, AutoModelForTokenClassification
import torch

tokenizer = AutoTokenizer.from_pretrained("sgarbi/bert-fda-nutrition-ner")
model = AutoModelForTokenClassification.from_pretrained("sgarbi/bert-fda-nutrition-ner")

texts = [
    "Here are the ingredients to use: Tomato Paste, Sesame Oil, Cheese Cultures, Ground Corn, Vegetable Oil, Brown rice, sea salt, Tomatoes, Milk, Onions, Egg Yolks, Lime Juice Concentrate, Corn Starch, Condensed Milk, Spices, Artificial Flavor, red 5, roasted coffee",
    "Beef: 250 calories per 100g Chicken: 165 calories per 100g Salmon: 206 calories per 100g Tofu: 76 calories per 100g Lentils: 116 calories per 100g Carrots: 41 calories per 100g Spinach: 23 calories per 100g Apples: 52 calories per 100g Bananas: 89 calories per 100g Oranges: 47 calories per 100g Rice: 130 calories per 100g cooked Pasta: 131 calories per 100g cooked Bread: 265 calories per 100g Olive oil: 884 calories per 100g Butter: 717 calories per 100g"
]

inputs = tokenizer(texts, return_tensors="pt", padding=True, truncation=True)

with torch.no_grad():
    outputs = model(**inputs)

predictions = torch.argmax(outputs.logits, dim=2)

print(predictions)

📚 詳細文檔

訓練數據描述

sgarbi/bert-fda-nutrition-ner 模型的訓練數據經過精心策劃，主要來源於以下幾個方面：

數據來源

預處理和增強步驟

• 提取：從FDA數據集中提取關鍵文本數據，包括營養事實和成分列表。
• 歸一化：對所有文本進行歸一化處理，包括轉換為小寫和去除冗餘格式。
• 實體標註：手動標註重要的營養元素，創建用於訓練的標註數據集，包括宏營養素、維生素、礦物質和各種特定的飲食成分。
• 分詞和格式化：對數據進行分詞和格式化，以滿足BERT模型的輸入要求。
• 引入噪聲：為了提高模型處理真實世界不完美數據的能力，在訓練集中引入了故意噪聲，包括句子交換和引入拼寫錯誤。

注意事項

• 數據使用：模型僅使用了食品產品標籤的公開數據，未使用任何私人或敏感數據。
• 標註問題：標註任務由mistral.ai提供的Mistral 7B-Instruct執行（https://docs.mistral.ai/），標註過程中可能出現幻覺現象，導致分類不準確。
• 功能限制：該工具僅從文本中提取營養實體，不能用於營養或健康建議，營養建議應由專業專家提供。
• 語言偏差：某些類型食品產品標籤的語言和措辭可能會給模型帶來偏差。
• 模型用途：此模型主要用於探索BERT架構和NER任務。

標籤映射

label_map = {
    0: 'O',
    1: 'I-VITAMINS',
    2: 'I-STIMULANTS',
    3: 'I-PROXIMATES',
    4: 'I-PROTEIN',
    5: 'I-PROBIOTICS',
    6: 'I-MINERALS',
    7: 'I-LIPIDS',
    8: 'I-FLAVORING',
    9: 'I-ENZYMES',
    10: 'I-EMULSIFIERS',
    11: 'I-DIETARYFIBER',
    12: 'I-COLORANTS',
    13: 'I-CARBOHYDRATES',
    14: 'I-ANTIOXIDANTS',
    15: 'I-ALCOHOLS',
    16: 'I-ADDITIVES',
    17: 'I-ACIDS',
    18: 'B-VITAMINS',
    19: 'B-STIMULANTS',
    20: 'B-PROXIMATES',
    21: 'B-PROTEIN',
    22: 'B-PROBIOTICS',
    23: 'B-MINERALS',
    24: 'B-LIPIDS',
    25: 'B-FLAVORING',
    26: 'B-ENZYMES',
    27: 'B-EMULSIFIERS',
    28: 'B-DIETARYFIBER',
    29: 'B-COLORANTS',
    30: 'B-CARBOHYDRATES',
    31: 'B-ANTIOXIDANTS',
    32: 'B-ALCOHOLS',
    33: 'B-ADDITIVES',
    34: 'B-ACIDS'
}

示例輸出

INPUT:
'Here are the ingredients to use: Tomato Paste, Sesame Oil, Cheese Cultures,  Ground Corn, Vegetable Oil, Brown rice, sea salt, Tomatoes, Milk, Onions, Egg Yolks, Lime Juice Concentrate, Corn Starch, Condensed Milk, Spices, Artificial Flavor, red 5, roasted coffee'

Output:
['CLS', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B-CARBOHYDRATES', 'I-CARBOHYDRATES', 'O', 'B-LIPIDS', 'I-LIPIDS', 'O', 'B-PROBIOTICS', 'I-PROBIOTICS', 'O', 'B-CARBOHYDRATES', 'I-CARBOHYDRATES', 'O', 'B-LIPIDS', 'I-LIPIDS', 'O', 'B-CARBOHYDRATES', 'I-CARBOHYDRATES', 'O', 'B-MINERALS', 'I-MINERALS', 'O', 'B-CARBOHYDRATES', 'O', 'B-PROXIMATES', 'O', 'B-CARBOHYDRATES', 'O', 'B-LIPIDS', 'I-LIPIDS', 'I-LIPIDS', 'I-LIPIDS', 'O', 'B-CARBOHYDRATES', 'I-CARBOHYDRATES', 'I-CARBOHYDRATES', 'O', 'B-CARBOHYDRATES', 'I-CARBOHYDRATES', 'I-CARBOHYDRATES', 'O', 'B-PROXIMATES', 'I-PROXIMATES', 'O', 'B-FLAVORING', 'O', 'B-FLAVORING', 'I-FLAVORING', 'O', 'B-COLORANTS', 'I-COLORANTS', 'O', 'B-STIMULANTS', 'I-STIMULANTS', 'O', 'I-STIMULANTS']

代碼倉庫

https://github.com/ESgarbi/bert-fda-nutrition-ner

📄 許可證

本項目採用MIT許可證。