Albert Fa Base V2 Clf Digimag

🚀 波斯語ALBERT模型

波斯語ALBERT模型是用於波斯語自監督語言表徵學習的輕量級BERT模型。你也可以稱它為“小BERT”。

ALBERT - 波斯語是首次將ALBERT應用於波斯語的嘗試。該模型基於谷歌的ALBERT BASE版本2.0進行訓練，訓練數據涵蓋了來自眾多主題（如科學、小說、新聞等）的各種寫作風格，包含超過390萬份文檔、7300萬句話和13億個單詞，這與我們訓練ParsBERT的方式類似。

請關注ALBERT - 波斯語倉庫，以獲取有關過往和當前模型的最新信息。

🚀 快速開始

波斯語文本分類 [數碼雜誌、波斯語新聞]

此任務旨在對數碼雜誌和波斯語新聞這兩個現有數據集中的文本進行有監督的標註。

數碼雜誌數據集

從Digikala在線雜誌抓取的共計8515篇文章。該數據集包含七個不同的類別：

1. 視頻遊戲
2. 購物指南
3. 健康與美容
4. 科學技術
5. 綜合
6. 藝術與電影
7. 書籍與文學

下載地址 你可以從[這裡](https://drive.google.com/uc?id=1YgrCYY - Z0h2z0 - PfWVfOGt1Tv0JDI - qz)下載該數據集。

結果

以下表格總結了ParsBERT與其他模型和架構相比所獲得的F1分數：

📚 詳細文檔

BibTeX引用和引用信息

如果您在出版物中引用，請使用以下內容：

@misc{ALBERTPersian,
  author = {Mehrdad Farahani},
  title = {ALBERT-Persian: A Lite BERT for Self-supervised Learning of Language Representations for the Persian Language},
  year = {2020},
  publisher = {GitHub},
  journal = {GitHub repository},
  howpublished = {\url{https://github.com/m3hrdadfi/albert-persian}},
}

@article{ParsBERT,
    title={ParsBERT: Transformer-based Model for Persian Language Understanding},
    author={Mehrdad Farahani, Mohammad Gharachorloo, Marzieh Farahani, Mohammad Manthouri},
    journal={ArXiv},
    year={2020},
    volume={abs/2005.12515}
}

有疑問？

請在ALBERT - 波斯語倉庫中發佈GitHub問題。

📄 許可證

本項目採用Apache 2.0許可證。