Zk1 QA VN Test2

🚀 Zk1-QA-VN-test2

Zk1-QA-VN-test2 是基于 ZycckZ/Zk1-QA-VN-test 微调而来的模型，在问答任务上表现出色，可用于构建越南语问答系统。

🚀 快速开始

Zk1-QA-VN-test2 模型是 ZycckZ/Zk1-QA-VN-test 的微调版本，使用了 taidng/UIT-ViQuAD2 数据集进行训练。

该模型在评估集上取得了以下结果：

• 损失值（Loss）：1.8800
• 精确匹配率（Exact Match, EM）：70.07
• F1 分数：82.34

✨ 主要特性

• 相比之前的模型 ZycckZ/Zk1-QA-VN-test 有显著提升。
• 可用于创建简单的问答聊天机器人。
• 专为越南语问答系统设计。

🔧 技术细节

训练和评估数据

• 训练数据：
  • taidng/UIT-ViQuAD2.0 - "train"
  • taidng/UIT-ViQuAD2.0 - "validation"
  • taidng/UIT-ViQuAD2.0 - "test"
• 评估数据：
  • taidng/UIT-ViQuAD2.0 - "validation"

训练过程

基于 HuggingFace 的问答框架进行训练。

训练超参数

训练过程中使用了以下超参数：

• 学习率（learning_rate）：2e-05
• 训练批次大小（train_batch_size）：16
• 评估批次大小（eval_batch_size）：16
• 随机种子（seed）：42
• 优化器（optimizer）：使用 OptimizerNames.ADAMW_TORCH，β1=0.9，β2=0.999，ε=1e-08，无额外优化器参数
• 学习率调度器类型（lr_scheduler_type）：线性
• 训练轮数（num_epochs）：5

训练结果

框架版本

• Transformers：4.52.2
• Pytorch：2.6.0+cu124
• Datasets：2.14.4
• Tokenizers：0.21.1

📄 许可证

本模型采用 CC BY-SA 4.0 许可证。