Yi 6B

🚀 Yi

Yiシリーズモデルは、01.AIによってゼロから訓練された次世代のオープンソース大規模言語モデルです。3Tの多言語コーパスで訓練された双言語モデルとして、言語理解、常識推論、読解力などの分野で高い性能を発揮し、世界でも有数の強力な大規模言語モデルの一つとなっています。

🚀 クイックスタート

選択肢

• pip：pipを使用してYiをインストールすることができます。
• docker：Dockerコンテナを使用してYiを実行することができます。
• llama.cpp：llama.cppを使用してYiを実行することができます。
• conda-lock：conda-lockを使用してYiをインストールすることができます。
• Webデモ：Webデモを使用してYiを試すことができます。

インストール方法

pip

pip install ...  # 具体的なコマンドは元ドキュメントに合わせて記載

docker

docker run ...  # 具体的なコマンドは元ドキュメントに合わせて記載

llama.cpp

...  # 具体的なコマンドは元ドキュメントに合わせて記載

conda-lock

conda-lock install ...  # 具体的なコマンドは元ドキュメントに合わせて記載

Webデモ

以下のリンクからWebデモを試すことができます。

• Hugging Face
• Replicate

✨ 主な機能

モデルの種類

チャットモデル

<sub><sup>- 4-bitシリーズモデルはAWQで量子化されています。
- 8-bitシリーズモデルはGPTQで量子化されています。
- すべての量子化モデルは、消費者向けGPU（例：3090、4090）でのデプロイが可能なため、使用障壁が低くなっています。</sup></sub>

ベースモデル

<sub><sup>- 200kはおよそ40万文字に相当します。
- 2023年11月5日にリリースされたYi-34B-200Kの前バージョンを使用する場合は、git checkout 069cd341d60f4ce4b07ec394e82b79e94f656cfを実行して重みをダウンロードしてください。</sup></sub>

ニュース

📚 ドキュメント

微調整

Yiモデルは、特定の要件に合わせて微調整することができます。微調整の詳細については、Yi Tech Reportを参照してください。

量子化

4-bitシリーズモデルはAWQで量子化されており、8-bitシリーズモデルはGPTQで量子化されています。量子化モデルは、消費者向けGPU（例：3090、4090）でのデプロイが可能なため、使用障壁が低くなっています。

デプロイ

Yiモデルをデプロイする場合は、ソフトウェアとハードウェアの要件を満たしていることを確認してください。

FAQ

よくある質問については、FAQセクションを参照してください。

学習ハブ

Yi Learning Hubで学習を進めることができます。

🔧 技術詳細

エコシステム

上流

TransformerとLlamaのオープンソースコミュニティに感謝します。彼らのおかげで、ゼロから構築するための労力が削減され、AIエコシステム内で同じツールを利用することが可能になりました。

下流

• サービング：Yiモデルは、サービングに適しています。
• 量子化：4-bitシリーズモデルはAWQで量子化されており、8-bitシリーズモデルはGPTQで量子化されています。
• 微調整：Yiモデルは、特定の要件に合わせて微調整することができます。
• API：Yiモデルは、APIを介して利用することができます。

ベンチマーク

ベースモデルの性能

Yi-34Bモデルは、Hugging Face Open LLM Leaderboard（事前学習）やC-Evalなどの様々なベンチマークで、英語と中国語の両方で、Falcon-180B、Llama-70B、Claudeなどのすべての既存のオープンソースモデルの中で1位を獲得しています（2023年11月までのデータに基づく）。

チャットモデルの性能

Yi-34B-Chatモデルは、AlpacaEval Leaderboardで、GPT-4 Turboに次いで2位を獲得し、GPT-4、Mixtral、Claudeなどの他の大規模言語モデルを上回っています（2024年1月までのデータに基づく）。

技術レポート

Yi Tech Reportを参照してください。

引用

@article{...}  # 具体的な引用情報は元ドキュメントに合わせて記載

📄 ライセンス

このプロジェクトは、Apache-2.0ライセンスの下で公開されています。詳細については、LICENSEを参照してください。