Albert Fa Base V2 Clf Persiannews

🚀 波斯語ALBERT模型

波斯語ALBERT（A Lite BERT）是用於波斯語語言表徵自監督學習的輕量級BERT模型。你也可以稱它為“小BERT”。

波斯語ALBERT 是首次將ALBERT應用於波斯語的嘗試。該模型基於谷歌的ALBERT BASE 2.0版本進行訓練，使用了來自眾多主題（如科學、小說、新聞等）的多種寫作風格的數據，涵蓋超過390萬份文檔、7300萬句話和13億個單詞，與我們訓練ParsBERT的方式類似。

請關注 波斯語ALBERT 倉庫，以獲取有關過往和當前模型的最新信息。

✨ 主要特性

波斯語文本分類 [DigiMag，波斯語新聞]

該任務旨在對 DigiMag 和 波斯語新聞 這兩個現有數據集中的文本進行有監督的標註。

波斯語新聞數據集

這是一個從不同在線新聞機構網站上抓取的各類新聞文章數據集。文章總數為16438篇，分為八個不同的類別：

1. 經濟
2. 國際
3. 政治
4. 科技
5. 文化藝術
6. 體育
7. 醫療

下載地址 你可以從 此處 下載該數據集。

實驗結果

下表總結了與其他模型和架構相比所獲得的F1分數。

BibTeX引用及引用信息

如果在出版物中引用，請使用以下格式：

@misc{ALBERTPersian,
  author = {Mehrdad Farahani},
  title = {ALBERT-Persian: A Lite BERT for Self-supervised Learning of Language Representations for the Persian Language},
  year = {2020},
  publisher = {GitHub},
  journal = {GitHub repository},
  howpublished = {\url{https://github.com/m3hrdadfi/albert-persian}},
}

@article{ParsBERT,
    title={ParsBERT: Transformer-based Model for Persian Language Understanding},
    author={Mehrdad Farahani, Mohammad Gharachorloo, Marzieh Farahani, Mohammad Manthouri},
    journal={ArXiv},
    year={2020},
    volume={abs/2005.12515}
}

📄 許可證

本項目採用Apache 2.0許可證。

❓ 常見問題

如果你有任何問題，請在 波斯語ALBERT 倉庫中提交GitHub issue。