Typhoon 7b

🚀 颱風-7B：泰語大語言模型（預訓練）

颱風-7B是一個擁有70億參數的預訓練泰語🇹🇭大語言模型，它基於Mistral - 7B構建。該模型在泰語考試基準測試中表現出色，超越了目前所有的開源泰語模型。其指令微調版本在遵循指令任務中取得了最佳效果。此外，它在泰語處理上的性能與GPT - 3.5相當，同時在泰語文本分詞方面效率提高了2.62倍。

需要注意的是，這不是一個經過指令微調的模型，如果不使用單樣本/少樣本學習或指令微調，它可能無法遵循人類指令。並且該模型沒有任何審核機制，可能會生成有害或不適當的回覆。

指令微調版本（聊天模型）即將發佈。你可以在這裡註冊測試版，或關注我們的推特獲取未來模型發佈信息。

有關該模型的詳細信息，請閱讀我們的論文。

📚 詳細文檔

模型描述

泰語基準測試表現

預期用途與限制

這是一個預訓練的基礎模型。因此，如果不使用單樣本/少樣本學習或指令微調，它可能無法遵循人類指令。並且該模型沒有任何審核機制，可能會生成有害或不適當的回覆。

關注我們

推特

支持與提問

Discord

SCB 10X AI團隊

• Kunat Pipatanakul, Phatrasek Jirabovonvisut, Potsawee Manakul, Sittipong Sripaisarnmongkol, Ruangsak Patomwong, Pathomporn Chokchainant, Kasima Tharnpipitchai

如果你發現颱風 - 7B對你的工作有幫助，請使用以下方式引用：

@article{pipatanakul2023typhoon,
    title={Typhoon: Thai Large Language Models}, 
    author={Kunat Pipatanakul and Phatrasek Jirabovonvisut and Potsawee Manakul and Sittipong Sripaisarnmongkol and Ruangsak Patomwong and Pathomporn Chokchainant and Kasima Tharnpipitchai},
    year={2023},
    journal={arXiv preprint arXiv:2312.13951},
    url={https://arxiv.org/abs/2312.13951}
}

聯繫我們

• 一般諮詢與合作：kasima@scb10x.com, pathomporn@scb10x.com
• 技術問題：kunat@scb10x.com

📄 許可證

本模型採用Apache - 2.0（商業許可）。