Agriculture Bert Base Chinese

🚀 中文農業BERT基礎模型

本模型是用於農業領域的BERT模型。採用了掩碼語言模型（MLM）的自監督學習方法對模型進行訓練。

• 掩碼語言模型（MLM）：對於一個句子，模型會隨機掩蓋輸入中15%的詞彙，然後將整個被掩蓋的句子輸入模型，讓模型預測被掩蓋的詞彙。
• 這與傳統的循環神經網絡（RNNs）不同，RNNs通常是逐個處理詞彙；也與像GPT這樣的自迴歸模型不同，GPT會在內部掩蓋未來的標記。
• 該方法使模型能夠學習到句子的雙向表示。

🚀 快速開始

以下是使用該模型進行掩碼填充的示例代碼：

from transformers import pipeline
fill_mask = pipeline(
    "fill-mask",
    model="gigilin7/agriculture-bert-base-chinese",
    tokenizer="gigilin7/agriculture-bert-base-chinese"
)
res = fill_mask("[MASK]是許多亞洲國家的主要糧食作物。")

💻 使用示例

基礎用法

from transformers import pipeline
fill_mask = pipeline(
    "fill-mask",
    model="gigilin7/agriculture-bert-base-chinese",
    tokenizer="gigilin7/agriculture-bert-base-chinese"
)
res = fill_mask("[MASK]是許多亞洲國家的主要糧食作物。")