Bloom 1b1 Zh

🚀 BLOOM-zh

BLOOM-zh是一款增強了繁體中文能力的語言模型，基於BLOOMZ開發，在大量繁體中文文本數據上進行了擴展訓練，可用於文本生成等任務。

🚀 快速開始

BLOOM-zh模型可在Hugging Face平臺使用，你可以參考相關文檔進行調用。

✨ 主要特性

• BLOOM-zh是具備增強繁體中文能力的語言模型，源自BLOOMZ。
• 在大量繁體中文文本數據上進行了擴展訓練。

📚 詳細文檔

模型詳情

BLOOM-zh是增強了繁體中文能力的語言模型，它源自BLOOMZ，並在大量繁體中文文本數據上進行了擴展訓練。

基本信息

技術規格

如需瞭解技術規格，請參考BLOOM。

環境影響

如需瞭解環境影響，請參考BLOOM。

用途

本部分解答了關於模型預期用途的問題，討論了模型的可預見用戶（包括受模型影響的用戶），並描述了被視為超出範圍或濫用模型的用途，為任何考慮使用該模型或受其影響的人提供信息。如需瞭解模型的用途，請參考BLOOM。

訓練數據

本部分提供了訓練數據的概述，對於想了解模型學習基礎內容的人來說非常重要。我們在總共115億個主要為高質量繁體中文文本的標記上訓練了1B1參數模型，詳細信息見論文。

風險與侷限性

本部分識別了可預見的危害和誤解。如需瞭解風險與侷限性，請參考BLOOM。

影響因素

本部分列出了BLOOM模型的一些不同方面，重點關注那些可能導致模型行為出現高方差的方面。

• 該模型在繁體中文上進行訓練，但預訓練權重涵蓋了40多種不同語言。
• 該模型在網絡爬取數據、新聞文章、小說、知識源（百科全書、教育領域）和指令上進行訓練。

建議

本部分提供了警告和潛在緩解措施的信息。如需瞭解建議，請參考BLOOM。

模型卡片作者

（大致按時間順序和投入時間排序） Philipp Ennen、Po-Chun Hsu、Chan-Jan Hsu、Chang-Le Liu、Yen-Chen Wu、Yin-Hsiang Liao、Chin-Tung Lin、Chi-Ming Chung、Yi-Chang Chen、Da-Shan Shiu、Wei-Yun Ma