Bloom 1b4 Zh

🚀 中文精簡版BLOOM模型

本項目基於大語言模型進行優化，通過對詞彙表的裁剪，有效降低了GPU內存使用，同時保留了文本生成能力，適用於需要中文文本生成的場景。

🚀 快速開始

本模型基於 bigscience/bloom-1b7 構建。我們使用中文語料將其詞彙表從 250880 裁剪至 46145，以減少 GPU 內存使用。因此，目前模型的總參數為 14 億。

💻 使用示例

基礎用法

from transformers import BloomTokenizerFast, BloomForCausalLM

tokenizer = BloomTokenizerFast.from_pretrained('Langboat/bloom-1b4-zh')
model = BloomForCausalLM.from_pretrained('Langboat/bloom-1b4-zh')

print(tokenizer.batch_decode(model.generate(tokenizer.encode('中國的首都是', return_tensors='pt'))))

📄 許可證

本模型使用的許可證為 bigscience-bloom-rail-1.0。