Fr Boris

🚀 Cedille AI

Cedille 項目致力於將大語言模型引入非英語語言領域，為非英語語言使用者提供強大的語言處理能力。

🚀 快速開始

目前，測試該模型最簡單的方法是使用我們公開可用的演示平臺。Cedille 是一個相對較大的模型，在生產環境中運行成本較高。如有 API 使用需求，請發送郵件至 hello@cedille.ai 與我們聯繫。

✨ 主要特性

fr-boris 模型

Boris 是一個具有 60 億參數的自迴歸語言模型，基於 GPT - J 架構構建，並使用 [mesh - transformer - jax](https://github.com/kingoflolz/mesh - transformer - jax) 代碼庫進行訓練。

Boris 在來自 C4 數據集的約 780 億個法語文本標記上進行訓練。我們從在 The Pile 上預訓練的 GPT - J 開始訓練，因此該模型在英語方面也有不錯的表現。Boris 使用未修改的 GPT - 2 分詞器。

Boris 以偉大的法國作家 Boris Vian 的名字命名。

📚 詳細文檔

📄 Cedille 論文

我們的論文現已發佈！點擊查看。

如果您使用了 Cedille，請引用我們的工作：

@misc{muller2022cedille,
      title={Cedille: A large autoregressive French language model}, 
      author={Martin M{\"{u}}ller and Florian Laurent},
      year={2022},
      eprint={2202.03371},
      archivePrefix={arXiv},
      primaryClass={cs.CL}
}

📞 聯繫我們

如有定製開發需求，請發送郵件至 hello@cedille.ai 與我們聯繫。

🔗 相關鏈接

• 官方網站
• 博客
• [GitHub](https://github.com/coteries/cedille - ai)
• Twitter

📄 許可證

本項目採用 MIT 許可證。