Openchat V2

🚀 OpenChat：藉助不完美數據推動開源語言模型發展

OpenChat v2系列模型的靈感源自離線強化學習，涵蓋條件行為克隆（OpenChat - v2）和加權行為克隆（OpenChat - v2 - w）兩種類型。

• OpenChat - v2 - w：基於LLaMA - 13B，上下文長度為2048，使用約80k經過清洗的ShareGPT數據，並採用條件和加權損失。
  • 在MT - bench評測中，相較於ChatGPT的勝率達到50.9%。
  • 在Vicuna - bench評測中，相較於ChatGPT的勝率達到79.4%。
  • 在AlpacaEval評測中，相較於text - davinci - 003的勝率達到87.1%。
• OpenChat - v2：同樣基於LLaMA - 13B，上下文長度為2048，使用約80k經過清洗的ShareGPT數據，但僅採用條件處理。
  • 在MT - bench評測中，相較於ChatGPT的勝率達到48.1%。
  • 在Vicuna - bench評測中，相較於ChatGPT的勝率達到80.6%。
  • 在AlpacaEval評測中，相較於text - davinci - 003的勝率達到85.0%。

✨ 主要特性

代碼與推理服務器

我們在OpenChat的GitHub倉庫中提供了完整的源代碼，其中包括一個與“ChatCompletions” API兼容的推理服務器。

網頁用戶界面

為了提供更好的用戶體驗，OpenChat還配備了網頁用戶界面。具體使用說明請參考GitHub倉庫。

對話模板

對話模板涉及拼接標記，無法用純文本表示。

除了基礎模型的詞彙表外，還添加了一個對話結束標記<|end_of_turn|>。

以下是單輪對話模板的示例：

def tokenize_single_input(tokenizer, prompt):
    # OpenChat V2
    human_prefix = "User:"
    prefix    = "Assistant GPT4:"
    eot_token = "<|end_of_turn|>"
    bos_token = "<s>"

    def _tokenize(text):
        return tokenizer.convert_tokens_to_ids(tokenizer._tokenize(text))

    def _tokenize_special(special_name):
        return tokenizer.convert_tokens_to_ids(special_name)
    
    return [_tokenize_special(bos_token)] + _tokenize(human_prefix) + _tokenize(prompt) + [_tokenize_special(eot_token)] + \
           _tokenize(prefix)

若要探索條件語言模型，你還可以將prefix設置為"Assistant GPT3:"來模擬ChatGPT的行為（這可能會導致性能下降）。

提示：在字節對編碼（BPE）中，tokenize(A) + tokenize(B)並不總是等於tokenize(A + B)

🔧 技術細節

侷限性

基礎模型的侷限性

儘管OpenChat具備先進的能力，但它仍然受到其基礎模型固有侷限性的約束。這些侷限性可能會在以下方面影響模型的性能：

• 複雜推理
• 數學和算術任務
• 編程和編碼挑戰

生成不存在或不準確的信息

OpenChat有時可能會生成不存在或不準確的信息，也就是所謂的“幻覺”現象。用戶應意識到這種可能性，並對從模型獲取的任何關鍵信息進行驗證。

📄 許可證

本項目使用的許可證為other。