Vicuna 7b Delta V0

🚀 Vicunaモデル

Vicunaは、ShareGPTから収集されたユーザー共有の会話データを使用してLLaMAをファインチューニングすることで学習されたチャットアシスタントです。このモデルは、大規模言語モデルやチャットボットに関する研究に役立ちます。

🚀 クイックスタート

⚠️ 重要提示

新しいバージョンが利用可能です。最新バージョンの重みについてはこちらを確認してください。

⚠️ 重要提示

この「deltaモデル」は直接使用することはできません。ユーザーは、実際のVicunaの重みを取得するために、元のLLaMAの重みにこのdeltaモデルを適用する必要があります。詳細な手順はこちらを参照してください。

モデルの使用開始方法

• コマンドラインインターフェース: https://github.com/lm-sys/FastChat#vicuna-weights
• API (OpenAI API, Huggingface API): https://github.com/lm-sys/FastChat/tree/main#api

✨ 主な機能

Vicunaの主な用途は、大規模言語モデルとチャットボットの研究です。このモデルの主な対象ユーザーは、自然言語処理、機械学習、人工知能の研究者や愛好家です。

📦 インストール

コマンドラインインターフェースやAPIを通じてモデルを使用する方法については、以下のリンクを参照してください。

• コマンドラインインターフェース: https://github.com/lm-sys/FastChat#vicuna-weights
• API (OpenAI API, Huggingface API): https://github.com/lm-sys/FastChat/tree/main#api

📚 ドキュメント

モデルの詳細

モデルのソース

• リポジトリ: https://github.com/lm-sys/FastChat
• ブログ: https://lmsys.org/blog/2023-03-30-vicuna/
• 論文: https://arxiv.org/abs/2306.05685
• デモ: https://chat.lmsys.org/

トレーニングの詳細

Vicuna v0は、教師付き命令微調整によってLLaMAからファインチューニングされています。トレーニングデータは、ShareGPT.comから収集された約70Kの会話です。詳細は、この論文の付録にある「Vicunaモデルのトレーニング詳細」のセクションを参照してください。

評価

Vicunaは、標準的なベンチマーク、人間の嗜好、およびLLMを評価者として使用して評価されています。詳細は、この論文とリーダーボードを参照してください。

異なるバージョンのVicunaの違い

詳細はvicuna_weights_version.mdを参照してください。