# フランス語言語モデル

1兆の高品質なフランス語テキストで事前学習されたフランス語言語モデル、ModernBERTのフランス語版

CamemBERTv2は2750億のフランス語テキストコーパスで事前学習されたフランス語言語モデルで、CamemBERTの第2世代バージョンです。RoBERTaアーキテクチャを採用し、トークナイザーとトレーニングデータを最適化しました。

Jeux2BERTはFlaubert言語モデルを基盤とし、JeuxDeMots語彙意味ネットワークを統合したモデルで、単語の分散特徴と関連属性を捉え、単語やフレーズ間の異なる関係特性を区別できます。

CamemBERTはRoBERTaをベースとしたフランス語言語モデルで、このバージョンはウィキペディアの4GBテキストでトレーニングされています

WECHSEL手法を用いて訓練されたGPT - 2のフランス語版で、サブワード埋め込みの効果的な初期化により単言語言語モデルの言語間移行を実現します。

Borisは、GPT - Jアーキテクチャに基づく、60億パラメータを持つ自己回帰型言語モデルで、フランス語テキスト処理に特化しています。

CamemBERTはRoBERTaをベースに開発された高度なフランス語言語モデルで、6種類の異なるバージョンを提供し、様々なフランス語自然言語処理タスクに適しています。