Fr Boris

🚀 Cedille AI

Cedilleは、大規模言語モデルを非英語圏にもたらすプロジェクトです。このプロジェクトにより、非英語の言語でも高度な言語処理が可能になります。

🚀 クイックスタート

現時点では、モデルをテストする最も簡単な方法は、公開されているプレイグラウンドを使用することです。

Cedilleは比較的大規模なモデルであり、本番環境で実行するとコストがかかる場合があります。APIアクセスについては、hello@cedille.aiまでお問い合わせください。

✨ 主な機能

fr - boris

Borisは、GPT - Jアーキテクチャに基づく60億パラメータの自己回帰型言語モデルで、mesh - transformer - jaxコードベースを使用して学習されました。

Borisは、C4データセットから抽出された約780億トークンのフランス語テキストで学習されました。学習は、The Pileで学習されたGPT - Jから開始されました。そのため、このモデルは英語でも良好な性能を発揮します。Borisは、修正されていないGPT - 2トークナイザーを使用しています。

Borisは、偉大なフランスの作家Boris Vianにちなんで名付けられました。

📚 ドキュメント

📄 Cedille論文

私たちの論文が公開されました！ https://arxiv.org/abs/2202.03371

Cedilleを利用される場合は、ぜひ私たちの研究を引用してください。

@misc{muller2022cedille,
      title={Cedille: A large autoregressive French language model}, 
      author={Martin M{\"{u}}ller and Florian Laurent},
      year={2022},
      eprint={2202.03371},
      archivePrefix={arXiv},
      primaryClass={cs.CL}
}

お問い合わせ

カスタム開発に関するお問い合わせは、hello@cedille.aiまでお願いします。

リンク

• 公式ウェブサイト
• ブログ
• GitHub
• Twitter

📄 ライセンス

このプロジェクトはMITライセンスの下で公開されています。