Openchat V2

🚀 OpenChat: 不完全なデータでオープンソース言語モデルを進化させる

OpenChat v2ファミリーは、オフライン強化学習に触発されて開発されており、条件付き行動クローニング（OpenChat-v2）と重み付き行動クローニング（OpenChat-v2-w）が含まれています。

• OpenChat-v2-w: 約80kのクリーニングされたShareGPTデータを条件付きと重み付き損失で使用し、コンテキスト長2048のLLaMA-13Bをベースにしています。
  • MT-benchでChatGPTに対して**50.9%**の勝率を達成しました。
  • Vicuna-benchでChatGPTに対して**79.4%**の勝率を達成しました。
  • AlpacaEvalでtext-davinci-003に対して**87.1%**の勝率を達成しました。
• OpenChat-v2: 約80kのクリーニングされたShareGPTデータを条件付きのみで使用し、コンテキスト長2048のLLaMA-13Bをベースにしています。
  • MT-benchでChatGPTに対して**48.1%**の勝率を達成しました。
  • Vicuna-benchでChatGPTに対して**80.6%**の勝率を達成しました。
  • AlpacaEvalでtext-davinci-003に対して**85.0%**の勝率を達成しました。

✨ 主要特性

コードと推論サーバー

OpenChatのGitHubリポジトリには、「ChatCompletions」APIと互換性のある推論サーバーを含む完全なソースコードが提供されています。

Web UI

OpenChatには、ユーザー体験を向上させるためのWeb UIも含まれています。詳細な手順はGitHubリポジトリを参照してください。

会話テンプレート

会話テンプレートはトークンを連結する必要があり、平文で表現することはできません。

ベースモデルの語彙に加えて、ターン終了トークン <|end_of_turn|> が追加されています。

以下は、単一ラウンドの会話テンプレートの例です。

def tokenize_single_input(tokenizer, prompt):
    # OpenChat V2
    human_prefix = "User:"
    prefix    = "Assistant GPT4:"
    eot_token = "<|end_of_turn|>"
    bos_token = "<s>"

    def _tokenize(text):
        return tokenizer.convert_tokens_to_ids(tokenizer._tokenize(text))

    def _tokenize_special(special_name):
        return tokenizer.convert_tokens_to_ids(special_name)
    
    return [_tokenize_special(bos_token)] + _tokenize(human_prefix) + _tokenize(prompt) + [_tokenize_special(eot_token)] + \
           _tokenize(prefix)

条件付き言語モデルを探索するために、prefix = "Assistant GPT3:" を設定してChatGPTの動作を模倣することもできます（これにより性能が低下する可能性があります）。

ヒント: BPEでは、tokenize(A) + tokenize(B) が常に tokenize(A + B) と等しいとは限りません

🔧 技術细节

制限事項

基盤モデルの制限

OpenChatは高度な機能を持っていますが、依然として基盤モデルに内在する制限に縛られています。これらの制限は、複雑な推論、数学や算術のタスク、プログラミングやコーディングの課題などの分野でモデルの性能に影響を与える可能性があります。

存在しない情報の幻想

OpenChatは、存在しないまたは正確でない情報を生成することがあります。これは「幻想」とも呼ばれます。ユーザーはこの可能性を認識し、モデルから取得した重要な情報を検証する必要があります。

📄 ライセンス

Other