Xlm R Base Uit Viquad

🚀 XLM-Roberta-base Fine-tuning for UIT-viquad

This project focuses on fine-tuning the XLM-Roberta-base model on the UIT-viquad dataset. It aims to improve the performance in question-answering tasks, especially in the Vietnamese language context.

🚀 Quick Start

We fine-tuned the XLM-Roberta-base model on the UIT-vquad dataset (https://arxiv.org/pdf/2009.14725.pdf) using data augmentation techniques.

✨ Features

Performance

• EM (exact match): 65.63
• F1: 85.63

📦 Installation

The framework versions used in this project are as follows:

💻 Usage Examples

Basic Usage

from transformers import pipeline

# Replace this with your own checkpoint
model_checkpoint = "chieunq/xlm-r-base-uit-viquad"
question_answerer = pipeline("question-answering", model=model_checkpoint)

context = """
Nhóm của chúng tôi là sinh viên năm 4 trường ĐH Công Nghệ - ĐHQG Hà Nội. Nhóm gồm 3 thành viên : Nguyễn Quang Chiều, Nguyễn Quang Huy và Nguyễn Trần Anh Đức . Đây là pha Reader trong dự án cuồi kì môn Các vấn đề hiện đại trong CNTT của nhóm . 
"""
question = "3 thành viên trong nhóm gồm những ai ?"
question_answerer(question=question, context=context)

Output

{'score': 0.9928902387619019,
 'start': 98,
 'end': 158,
 'answer': 'Nguyễn Quang Chiều, Nguyễn Quang Huy và Nguyễn Trần Anh Đức.'}

📚 Documentation

Tags

• vi
• xlm-roberta

Widget

• text: 3 thành viên trong nhóm gồm những ai?
• context: "Nhóm của chúng tôi là sinh viên năm 4 trường ĐH Công Nghệ - ĐHQG Hà Nội. Nhóm gồm 3 thành viên: Nguyễn Quang Chiều, Nguyễn Quang Huy và Nguyễn Trần Anh Đức. Đây là pha Reader trong dự án cuồi kì môn Các vấn đề hiện đại trong CNTT của nhóm."

Datasets

• uit-viquad

Metrics

• EM (exact match): 60.63
• F1: 79.63