Albert Large Chinese Cluecorpussmall

🚀 中文ALBERT模型

中文ALBERT模型是專為中文自然語言處理任務設計的預訓練語言模型，它基於ALBERT架構，在大規模中文語料上進行預訓練，能夠為各種下游任務提供強大的語言理解能力。

🚀 快速開始

你可以直接使用文本生成管道來使用該模型：

>>> from transformers import BertTokenizer, AlbertForMaskedLM, FillMaskPipeline
>>> tokenizer = BertTokenizer.from_pretrained("uer/albert-base-chinese-cluecorpussmall")
>>> model = AlbertForMaskedLM.from_pretrained("uer/albert-base-chinese-cluecorpussmall")
>>> unmasker = FillMaskPipeline(model, tokenizer)   
>>> unmasker("中國的首都是[MASK]京。")
    [
        {'sequence': '中 國 的 首 都 是 北 京 。',
         'score': 0.8528032898902893, 
         'token': 1266, 
         'token_str': '北'}, 
        {'sequence': '中 國 的 首 都 是 南 京 。',
         'score': 0.07667620480060577, 
         'token': 1298, 
         'token_str': '南'}, 
        {'sequence': '中 國 的 首 都 是 東 京 。', 
         'score': 0.020440367981791496, 
         'token': 691, 
         'token_str': '東'},
        {'sequence': '中 國 的 首 都 是 維 京 。', 
         'score': 0.010197942145168781,
         'token': 5335, 
         'token_str': '維'}, 
        {'sequence': '中 國 的 首 都 是 汴 京 。', 
         'score': 0.0075391442514956, 
         'token': 3745, 
         'token_str': '汴'}
    ]

以下是在PyTorch中使用該模型獲取給定文本特徵的方法：

from transformers import BertTokenizer, AlbertModel
tokenizer = BertTokenizer.from_pretrained("uer/albert-base-chinese-cluecorpussmall")
model = AlbertModel.from_pretrained("uer/albert-base-chinese-cluecorpussmall")
text = "用你喜歡的任何文本替換我。"
encoded_input = tokenizer(text, return_tensors='pt')
output = model(**encoded_input)

在TensorFlow中的使用方法如下：

from transformers import BertTokenizer, TFAlbertModel
tokenizer = BertTokenizer.from_pretrained("uer/albert-base-chinese-cluecorpussmall")
model = TFAlbertModel.from_pretrained("uer/albert-base-chinese-cluecorpussmall")
text = "用你喜歡的任何文本替換我。"
encoded_input = tokenizer(text, return_tensors='tf')
output = model(encoded_input)

✨ 主要特性

這是由 UER-py 預訓練的一組中文ALBERT模型，相關內容在 這篇論文 中有所介紹。此外，這些模型也可以通過 TencentPretrain 進行預訓練，該工具在 這篇論文 中有介紹，它繼承了UER-py，支持參數超過十億的模型，並將其擴展為多模態預訓練框架。

你可以從 UER-py模型庫頁面 下載模型，也可以通過HuggingFace從以下鏈接下載：

📦 安裝指南

文檔中未提及安裝相關內容，若有需要可參考對應工具（如UER-py、TencentPretrain、transformers庫等）的官方安裝文檔。

💻 使用示例

基礎用法

# 使用文本生成管道直接使用模型
>>> from transformers import BertTokenizer, AlbertForMaskedLM, FillMaskPipeline
>>> tokenizer = BertTokenizer.from_pretrained("uer/albert-base-chinese-cluecorpussmall")
>>> model = AlbertForMaskedLM.from_pretrained("uer/albert-base-chinese-cluecorpussmall")
>>> unmasker = FillMaskPipeline(model, tokenizer)   
>>> unmasker("中國的首都是[MASK]京。")
    [
        {'sequence': '中 國 的 首 都 是 北 京 。',
         'score': 0.8528032898902893, 
         'token': 1266, 
         'token_str': '北'}, 
        {'sequence': '中 國 的 首 都 是 南 京 。',
         'score': 0.07667620480060577, 
         'token': 1298, 
         'token_str': '南'}, 
        {'sequence': '中 國 的 首 都 是 東 京 。', 
         'score': 0.020440367981791496, 
         'token': 691, 
         'token_str': '東'},
        {'sequence': '中 國 的 首 都 是 維 京 。', 
         'score': 0.010197942145168781,
         'token': 5335, 
         'token_str': '維'}, 
        {'sequence': '中 國 的 首 都 是 汴 京 。', 
         'score': 0.0075391442514956, 
         'token': 3745, 
         'token_str': '汴'}
    ]

高級用法

在不同深度學習框架中獲取文本特徵：

# 在PyTorch中獲取文本特徵
from transformers import BertTokenizer, AlbertModel
tokenizer = BertTokenizer.from_pretrained("uer/albert-base-chinese-cluecorpussmall")
model = AlbertModel.from_pretrained("uer/albert-base-chinese-cluecorpussmall")
text = "用你喜歡的任何文本替換我。"
encoded_input = tokenizer(text, return_tensors='pt')
output = model(**encoded_input)

# 在TensorFlow中獲取文本特徵
from transformers import BertTokenizer, TFAlbertModel
tokenizer = BertTokenizer.from_pretrained("uer/albert-base-chinese-cluecorpussmall")
model = TFAlbertModel.from_pretrained("uer/albert-base-chinese-cluecorpussmall")
text = "用你喜歡的任何文本替換我。"
encoded_input = tokenizer(text, return_tensors='tf')
output = model(encoded_input)

📚 詳細文檔

訓練數據

使用 CLUECorpusSmall 作為訓練數據。

訓練過程

該模型在 騰訊雲 上使用 UER-py 進行預訓練。我們以序列長度為128進行了1,000,000步的預訓練，然後以序列長度為512額外進行了250,000步的預訓練。在不同模型大小上使用相同的超參數。

以ALBERT-Base為例：

階段1：

python3 preprocess.py --corpus_path corpora/cluecorpussmall_bert.txt \
                      --vocab_path models/google_zh_vocab.txt \
                      --dataset_path cluecorpussmall_albert_seq128_dataset.pt \
                      --seq_length 128 --processes_num 32 --data_processor albert 

python3 pretrain.py --dataset_path cluecorpussmall_albert_seq128_dataset.pt \
                    --vocab_path models/google_zh_vocab.txt \
                    --config_path models/albert/base_config.json \
                    --output_model_path models/cluecorpussmall_albert_base_seq128_model.bin \
                    --world_size 8 --gpu_ranks 0 1 2 3 4 5 6 7 \
                    --total_steps 1000000 --save_checkpoint_steps 100000 --report_steps 50000 \
                    --learning_rate 1e-4 --batch_size 64

階段2：

python3 preprocess.py --corpus_path corpora/cluecorpussmall_bert.txt \
                      --vocab_path models/google_zh_vocab.txt \
                      --dataset_path cluecorpussmall_albert_seq512_dataset.pt \
                      --seq_length 512 --processes_num 32 --data_processor albert

python3 pretrain.py --dataset_path cluecorpussmall_albert_seq512_dataset.pt \
                    --vocab_path models/google_zh_vocab.txt \
                    --pretrained_model_path models/cluecorpussmall_albert_base_seq128_model.bin-1000000 \
                    --config_path models/albert/base_config.json \
                    --output_model_path models/cluecorpussmall_albert_base_seq512_model.bin \
                    --world_size 8 --gpu_ranks 0 1 2 3 4 5 6 7 \
                    --total_steps 1000000 --save_checkpoint_steps 100000 --report_steps 50000 \
                    --learning_rate 1e-4 --batch_size 64

最後，我們將預訓練模型轉換為Huggingface格式：

python3 scripts/convert_albert_from_uer_to_huggingface.py --input_model_path models/cluecorpussmall_albert_base_seq512_model.bin-1000000 \
                                                          --output_model_path pytorch_model.bin

BibTeX引用和引用信息

@article{lan2019albert,
  title={Albert: A lite bert for self-supervised learning of language representations},
  author={Lan, Zhenzhong and Chen, Mingda and Goodman, Sebastian and Gimpel, Kevin and Sharma, Piyush and Soricut, Radu},
  journal={arXiv preprint arXiv:1909.11942},
  year={2019}
}

@article{zhao2019uer,
  title={UER: An Open-Source Toolkit for Pre-training Models},
  author={Zhao, Zhe and Chen, Hui and Zhang, Jinbin and Zhao, Xin and Liu, Tao and Lu, Wei and Chen, Xi and Deng, Haotang and Ju, Qi and Du, Xiaoyong},
  journal={EMNLP-IJCNLP 2019},
  pages={241},
  year={2019}
}

@article{zhao2023tencentpretrain,
  title={TencentPretrain: A Scalable and Flexible Toolkit for Pre-training Models of Different Modalities},
  author={Zhao, Zhe and Li, Yudong and Hou, Cheng and Zhao, Jing and others},
  journal={ACL 2023},
  pages={217},
  year={2023}