Gemma 2 9B

Gemma 2 9B ITはGoogleのGemma 2 9Aベースモデルの命令調整バージョンです。このモデルは、8兆個のウェブデータ、コード、数学コンテンツのトークンで訓練されています。このモデルには、スライディングウィンドウアテンション、ロジットソフトキャッピング、知識抽出技術が備わっています。このモデルは、WARPを使用した教師付き微調整、蒸留、RLHF、モデルマージにより、対話型アプリケーション向けに最適化されています。