Openchat 3.5 1210

🚀 OPENCHAT 3.5

OPENCHAT 3.5是一款強大的開源語言模型，通過混合質量數據提升性能，在編碼、數學推理等多領域表現出色，還具備實驗性評估和反饋能力。

🚀 快速開始

要使用此模型，強烈建議按照安裝指南安裝OpenChat包，並通過運行以下表格中的服務命令來使用與OpenAI兼容的OpenChat API服務器。該服務器使用vLLM進行了高吞吐量部署優化，可在具有24GB RAM的消費級GPU上運行。若要啟用張量並行，可在服務命令後追加--tensor-parallel-size N。

服務器啟動後，將在localhost:18888監聽請求，並且與OpenAI ChatCompletion API規範兼容。請參考以下示例請求。此外，你還可以使用OpenChat Web UI以獲得更友好的用戶體驗。

如果你想將服務器部署為在線服務，可以使用--api-keys sk-KEY1 sk-KEY2 ...指定允許的API密鑰，並使用--disable-log-requests --disable-log-stats --log-file openchat.log僅將日誌記錄到文件中。出於安全考慮，建議在服務器前使用HTTPS網關。

curl http://localhost:18888/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "openchat_3.5",
    "messages": [{"role": "user", "content": "You are a large language model named OpenChat. Write a poem to describe yourself"}]
  }'

curl http://localhost:18888/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "openchat_3.5",
    "condition": "Math Correct",
    "messages": [{"role": "user", "content": "10.3 ‚àí 7988.8133 = "}]
  }'

對話模板

✨ 默認模式（GPT4 Correct）：最適合編碼、聊天和常規任務

GPT4 Correct User: Hello<|end_of_turn|>GPT4 Correct Assistant: Hi<|end_of_turn|>GPT4 Correct User: How are you today?<|end_of_turn|>GPT4 Correct Assistant:

🧮 數學推理模式：專為解決數學問題而設計

Math Correct User: 10.3 ‚àí 7988.8133=<|end_of_turn|>Math Correct Assistant:

⚠️ 重要提示

請記得將<|end_of_turn|>設置為生成結束標記。

默認（GPT4 Correct）模板也可以作為集成的tokenizer.chat_template使用，這樣就無需手動指定模板：

messages = [
    {"role": "user", "content": "Hello"},
    {"role": "assistant", "content": "Hi"},
    {"role": "user", "content": "How are you today?"}
]
tokens = tokenizer.apply_chat_template(messages, add_generation_prompt=True)
assert tokens == [1, 420, 6316, 28781, 3198, 3123, 1247, 28747, 22557, 32000, 420, 6316, 28781, 3198, 3123, 21631, 28747, 15359, 32000, 420, 6316, 28781, 3198, 3123, 1247, 28747, 1602, 460, 368, 3154, 28804, 32000, 420, 6316, 28781, 3198, 3123, 21631, 28747]

✨ 主要特性

（實驗性）評估器/反饋能力

本次版本加入了評估器功能，以推動開源模型作為評估器的發展。你可以使用默認模式（GPT4 Correct）和以下提示（與Prometheus相同）來評估響應：

###任務描述:
給定一個指令（可能包含輸入）、一個待評估的響應、一個得分為5的參考答案，以及一個代表評估標準的評分規則。
1. 嚴格根據給定的評分規則撰寫詳細的反饋，評估響應的質量，而非進行一般性評估。
2. 撰寫反饋後，給出一個1到5之間的整數分數。請參考評分規則。
3. 輸出格式應如下所示："反饋: (為標準撰寫的反饋) [結果] (1到5之間的整數)"
4. 請不要生成任何其他開頭、結尾和解釋內容。

###待評估的指令:
{orig_instruction}

###待評估的響應:
{orig_response}

###參考答案（得分5）:
{orig_reference_answer}

###評分規則:
[{orig_criteria}]
得分1: {orig_score1_description}
得分2: {orig_score2_description}
得分3: {orig_score3_description}
得分4: {orig_score4_description}
得分5: {orig_score5_description}

###反饋: 

📊 基準測試

HumanEval+

OpenChat-3.5-1210與Grok對比

*: Grok的結果由X.AI報告。

中文評估

⚠️ 重要提示

請注意，該模型未明確針對中文進行訓練（只有不到0.1%的數據是中文）。

多級多學科中文評估套件（CEVAL）

中文大規模多任務語言理解（CMMLU，5-shot）

📄 侷限性

基礎模型侷限性

儘管OpenChat具有先進的能力，但它仍然受到其基礎模型固有的侷限性影響。這些侷限性可能會影響模型在以下領域的性能：

• 複雜推理
• 數學和算術任務
• 編程和編碼挑戰

生成不存在信息（幻覺）

OpenChat有時可能會生成不存在或不準確的信息，即所謂的“幻覺”。用戶應意識到這種可能性，並對從模型獲取的任何關鍵信息進行驗證。

安全性

OpenChat有時可能會生成有害、仇恨言論、有偏見的響應，或回答不安全的問題。在需要安全和適度響應的用例中，應用額外的AI安全措施至關重要。

📄 許可證

我們的OpenChat 3.5代碼和模型根據Apache許可證2.0進行分發。

📚 數據集詳情

OpenChat 3.5使用C - RLFT在一組公開可用的高質量指令數據上進行訓練，並採用了自定義處理流程。以下是一些值得注意的子集：

• OpenChat ShareGPT
• 帶有FLAN答案的Open - Orca
• 反饋收集
• Capybara（針對MT - bench進行去汙染處理）
• GOAT
• Glaive
• MetaMathQA
• MathInstruct
• OpenAssistant

📚 引用

@article{wang2023openchat,
  title={OpenChat: Advancing Open-source Language Models with Mixed-Quality Data},
  author={Wang, Guan and Cheng, Sijie and Zhan, Xianyuan and Li, Xiangang and Song, Sen and Liu, Yang},
  journal={arXiv preprint arXiv:2309.11235},
  year={2023}
}

📇 聯繫我們

我們期待聽到你的聲音，並在這個激動人心的項目上進行合作！

項目負責人：

• 王觀 [imonenext at gmail dot com]
• Alpay Ariyak [aariyak at wpi dot edu]