Klue Bert Base Mrc

🚀 用於問答的BERT基礎模型

這是一個基於BERT基礎模型的問答系統，使用KLUE-MRC數據集進行訓練，可用於韓語的抽取式問答任務。

🚀 快速開始

你可以通過以下鏈接查看相關代碼、演示和API：

• 代碼：請查看 Ainize Workspace
• klue-bert-base-mrc演示：Ainize演示
• klue-bert-base-mrc API：Ainize API

✨ 主要特性

• 語言模型：klue/bert-base
• 語言：韓語
• 下游任務：抽取式問答
• 訓練數據：KLUE-MRC
• 評估數據：KLUE-MRC

💻 使用示例

基礎用法

from transformers import AutoModelForQuestionAnswering, AutoTokenizer

tokenizer = AutoTokenizer.from_pretrained("ainize/klue-bert-base-mrc")
model = AutoModelForQuestionAnswering.from_pretrained("ainize/klue-bert-base-mrc")

context = "your context"
question = "your question"

encodings = tokenizer(context, question, max_length=512, truncation=True,
                      padding="max_length", return_token_type_ids=False)
encodings = {key: torch.tensor([val]) for key, val in encodings.items()}             

input_ids = encodings["input_ids"]
attention_mask = encodings["attention_mask"]

pred = model(input_ids, attention_mask=attention_mask)

start_logits, end_logits = pred.start_logits, pred.end_logits

token_start_index, token_end_index = start_logits.argmax(dim=-1), end_logits.argmax(dim=-1)

pred_ids = input_ids[0][token_start_index: token_end_index + 1]

prediction = tokenizer.decode(pred_ids)

📄 許可證

本項目採用CC BY-SA 4.0許可證。

👨‍💻 關於我們

• Teachable NLP - 無需編寫任何代碼，即可使用自己的文本訓練NLP模型。
• Ainize - 使用免費GPU部署機器學習項目。