🚀 加泰罗尼亚语网络欺凌检测微调模型(roberta-base-ca-finetuned-cyberbullying-catalan)
该模型是 BSC - TeMU/roberta-base-ca 的微调版本,通过抓取所有社交网络(推特、油管等)生成的数据集进行训练,用于检测加泰罗尼亚语中的网络欺凌行为。
它在评估集上取得了以下成绩:
🚀 快速开始
本模型可用于加泰罗尼亚语网络欺凌检测,通过微调预训练模型,能有效识别相关文本。
✨ 主要特性
- 基于预训练模型微调,在加泰罗尼亚语网络欺凌检测任务上表现出色。
- 利用多社交网络数据进行训练,数据量大且丰富。
📦 安装指南
暂未提及具体安装步骤,可参考 Hugging Face 相关模型的通用安装方法。
💻 使用示例
基础用法
from transformers import pipeline
model_path = "JonatanGk/roberta-base-ca-finetuned-ciberbullying-catalan"
bullying_analysis = pipeline("text-classification", model=model_path, tokenizer=model_path)
bullying_analysis(
"Des que et vaig veure m'en vaig enamorar de tu."
)
[{'label': 'Not_bullying', 'score': 0.9996786117553711}]
bullying_analysis(
"Ets tan lletja que et donaven de menjar per sota la porta."
)
[{'label': 'Bullying', 'score': 0.9927878975868225}]
高级用法
可直接在 Colab 中运行示例代码进行测试:
点击在 Colab 中打开
📚 详细文档
训练和评估数据
我使用了通过抓取多个社交网络(推特、油管、Discord 等)生成的多个数据集的拼接来微调此模型。句子对的总数超过 41 万条。在 roberta-base-bne-finetuned-cyberbullying-spanish 中使用了类似的训练方法。
训练过程
训练超参数
训练期间使用了以下超参数:
- 学习率:2e - 05
- 训练批次大小:16
- 评估批次大小:16
- 随机种子:42
- 优化器:Adam,其中 betas=(0.9, 0.999),epsilon = 1e - 08
- 学习率调度器类型:线性
- 训练轮数:4
框架版本
- Transformers 4.10.3
- Pytorch 1.9.0+cu102
- Datasets 1.12.1
- Tokenizers 0.10.3
📄 许可证
原文档未提及许可证信息,故跳过该章节。
🔧 技术细节
原文档未提供足够的技术实现细节,故跳过该章节。
📖 引用
@inproceedings{armengol-estape-etal-2021-multilingual,
title = "Are Multilingual Models the Best Choice for Moderately Under-resourced Languages? {A} Comprehensive Assessment for {C}atalan",
author = "Armengol-Estap{\'e}, Jordi and
Carrino, Casimiro Pio and
Rodriguez-Penagos, Carlos and
de Gibert Bonet, Ona and
Armentano-Oller, Carme and
Gonzalez-Agirre, Aitor and
Melero, Maite and
Villegas, Marta",
booktitle = "Findings of the Association for Computational Linguistics: ACL-IJCNLP 2021",
month = aug,
year = "2021",
address = "Online",
publisher = "Association for Computational Linguistics",
url = "https://aclanthology.org/2021.findings-acl.437",
doi = "10.18653/v1/2021.findings-acl.437",
pages = "4933--4946",
}
⚠️ 重要提示
特别感谢 Manuel Romero/@mrm8488 作为我的导师以及 R.C.
💡 使用建议
本模型由 Jonatan Luna 创建 | 领英