airoboros-13b開源語言模型 - 可用於研究的合成數據微調模型

首頁

Airoboros 13b

由jondurbin開發

這是一個基於LlaMa架構的130億參數語言模型，使用合成數據微調，主要用於研究目的。

大型語言模型

Transformers

#研究專用模型 #合成數據訓練 #越獄提示驗證

下載量 229

發布時間 : 5/19/2023

模型概述

該模型是一個實驗性質的130億參數語言模型，通過完全由airoboros生成的合成數據進行微調，旨在驗證'越獄'提示對數據生成範圍的影響。

模型特點

合成數據訓練

完全使用airoboros生成的合成數據進行微調

研究導向

主要用於驗證'越獄'提示對數據生成範圍的影響

性能表現

在GPT-4評估中表現優於多個同類13B模型

模型能力

文本生成

對話系統

指令跟隨

使用案例

研究

語言模型對齊研究

研究越獄提示對模型行為的影響

證實越獄提示能生成更廣泛的數據範圍

🚀 微調版130億參數LlaMa模型

這是一個經過微調的130億參數LlaMa模型，使用了由https://github.com/jondurbin/airoboros 創建的完全合成的訓練數據。該模型旨在探索特定訓練方式下的性能表現，但作者不建議實際使用。

📄 許可證

本模型和數據集採用了 'cc-nc-4.0' 許可證，但實際上它受到特殊定製許可的約束：

基礎模型為LlaMa，它有自己特殊的研究許可。
數據集由OpenAI（gpt - 4和/或gpt - 3.5 - turbo）生成，OpenAI規定這些數據不能用於創建與OpenAI競爭的模型。

因此，再次強調：此模型（和數據集）不能用於商業用途。

🔍 評估（GPT-4評判）

模型	原始得分	GPT - 3.5調整後得分
airoboros - 13b	17947	98.087
gpt35	18297	100.0
gpt4 - x - alpasta - 30b	15612	85.33
manticore - 13b	15856	86.66
vicuna - 13b - 1.1	16306	89.12
wizard - vicuna - 13b - uncensored	16287	89.01

單個問題得分，附帶ShareGPT鏈接（由GPT - 4生成的200個提示）

wb - 13b - u 是Wizard - Vicuna - 13b - Uncensored

airoboros - 13b	gpt35	gpt4 - x - alpasta - 30b	manticore - 13b	vicuna - 13b - 1.1	wv - 13b - u	鏈接
80	95	70	90	85	60	評估
20	95	40	30	90	80	評估
100	100	100	95	95	100	評估
90	100	85	60	95	100	評估
95	90	80	85	95	75	評估
100	95	90	95	98	92	評估
50	100	80	95	60	55	評估
70	90	80	60	85	40	評估
100	95	50	85	40	60	評估
85	60	55	65	50	70	評估
95	100	85	90	60	75	評估
100	95	70	80	50	85	評估
100	95	80	70	60	90	評估
95	100	70	85	90	90	評估
80	95	90	60	30	85	評估
60	95	0	75	50	40	評估
100	95	90	98	95	95	評估
60	85	40	50	20	0	評估
100	90	85	95	95	80	評估
100	95	100	95	90	95	評估
95	90	96	80	92	88	評估
95	92	90	93	89	91	評估
95	93	90	94	96	92	評估
95	90	93	88	92	85	評估
95	90	85	96	88	92	評估
95	95	90	93	92	91	評估
95	98	80	97	99	96	評估
95	93	90	87	92	89	評估
90	85	95	80	92	75	評估
90	85	95	93	80	92	評估
95	92	90	91	93	89	評估
100	95	90	85	80	95	評估
95	97	93	92	96	94	評估
95	93	94	90	88	92	評估
90	95	98	85	96	92	評估
90	88	85	80	82	84	評估
90	95	85	87	92	88	評估
95	97	96	90	93	92	評估
95	93	92	90	89	91	評估
90	95	93	92	94	91	評估
90	85	95	80	88	75	評估
85	90	95	88	92	80	評估
90	95	92	85	80	87	評估
85	90	95	80	88	75	評估
85	80	75	90	70	82	評估
90	85	95	92	93	80	評估
90	95	75	85	80	70	評估
85	90	80	88	82	83	評估
85	90	95	92	88	80	評估
85	90	80	75	95	88	評估
85	90	80	88	84	92	評估
80	90	75	85	70	95	評估
90	88	85	80	92	83	評估
85	75	90	80	78	88	評估
85	90	80	82	75	88	評估
90	85	40	95	80	88	評估
85	95	90	75	88	80	評估
85	95	90	92	89	88	評估
80	85	75	60	90	70	評估
85	90	87	80	88	75	評估
85	80	75	50	90	80	評估
95	80	90	85	75	82	評估
85	90	80	70	95	88	評估
90	95	70	85	80	75	評估
90	85	70	75	80	60	評估
95	90	70	50	85	80	評估
80	85	40	60	90	95	評估
75	60	80	55	70	85	評估
90	85	60	50	80	95	評估
45	85	60	20	65	75	評估
85	90	30	60	80	70	評估
90	95	80	40	85	70	評估
85	90	70	75	80	95	評估
90	70	50	20	60	40	評估
90	95	75	60	85	80	評估
85	80	60	70	65	75	評估
90	85	80	75	82	70	評估
90	95	80	70	85	75	評估
85	75	30	80	90	70	評估
85	90	50	70	80	60	評估
100	95	98	99	97	96	評估
95	90	92	93	91	89	評估
95	92	90	85	88	91	評估
100	95	98	97	96	99	評估
100	100	100	90	100	95	評估
100	95	98	97	94	99	評估
95	90	92	93	94	91	評估
100	95	98	90	96	95	評估
95	96	92	90	89	93	評估
100	95	93	90	92	88	評估
100	100	98	97	99	100	評估
95	90	92	85	93	94	評估
95	93	90	92	96	91	評估
95	96	92	90	93	91	評估
95	90	92	93	91	89	評估
100	98	95	97	96	99	評估
90	95	85	88	92	87	評估
95	93	90	92	89	88	評估
100	95	97	90	96	94	評估
95	93	90	92	94	91	評估
95	92	90	93	94	88	評估
95	92	60	97	90	96	評估
95	90	92	93	91	89	評估
95	90	97	92	91	93	評估
90	95	93	85	92	91	評估
95	90	40	92	93	85	評估
100	100	95	90	95	90	評估
90	95	96	98	93	92	評估
90	95	92	89	93	94	評估
100	95	100	98	96	99	評估
100	100	95	90	100	90	評估
90	85	88	92	87	91	評估
95	97	90	92	93	94	評估
90	95	85	88	92	89	評估
95	93	90	92	94	91	評估
90	95	85	80	88	82	評估
95	90	60	85	93	70	評估
95	92	94	93	96	90	評估
95	90	85	93	87	92	評估
95	96	93	90	97	92	評估
100	0	0	100	0	0	評估
60	100	0	80	0	0	評估
0	100	60	0	0	90	評估
100	100	0	100	100	100	評估
100	100	100	100	95	100	評估
100	100	100	50	90	100	評估
100	100	100	100	95	90	評估
100	100	100	95	0	100	評估
50	95	20	10	30	85	評估
100	100	60	20	30	40	評估
100	0	0	0	0	100	評估
0	100	60	0	0	80	評估
50	100	20	90	0	10	評估
100	100	100	100	100	100	評估
100	100	100	100	100	100	評估
40	100	95	0	100	40	評估
100	100	100	100	80	100	評估
100	100	100	0	90	40	評估
0	100	100	50	70	20	評估
100	100	50	90	0	95	評估
100	95	90	85	98	80	評估
95	98	90	92	96	89	評估
90	95	75	85	80	82	評估
95	98	50	92	96	94	評估
95	90	0	93	92	94	評估
95	90	85	92	80	88	評估
95	93	75	85	90	92	評估
90	95	88	85	92	89	評估
100	100	100	95	97	98	評估
85	40	30	95	90	88	評估
90	95	92	85	88	93	評估
95	96	92	90	89	93	評估
90	95	85	80	92	88	評估
95	98	65	90	85	93	評估
95	92	96	97	90	89	評估
95	90	92	91	89	93	評估
95	90	80	75	95	90	評估
92	40	30	95	90	93	評估
90	92	85	88	89	87	評估
95	80	90	92	91	88	評估
95	93	92	90	91	94	評估
100	98	95	90	92	96	評估
95	92	80	85	90	93	評估
95	98	90	88	97	96	評估
90	95	85	88	86	92	評估
100	100	100	100	100	100	評估
90	95	85	96	92	88	評估
100	98	95	99	97	96	評估
95	92	70	90	93	89	評估
95	90	88	92	94	93	評估
95	90	93	92	85	94	評估
95	93	90	87	92	91	評估
95	93	90	96	92	91	評估
95	97	85	96	98	90	評估
95	92	90	85	93	94	評估
95	96	92	90	97	93	評估
95	93	96	94	90	92	評估
95	94	93	92	90	89	評估
90	85	95	80	87	75	評估
95	94	92	93	90	96	評估
95	100	90	95	95	95	評估
100	95	85	100	0	90	評估
100	95	90	95	100	95	評估
95	90	60	95	85	80	評估
100	95	90	98	97	99	評估
95	90	85	95	80	92	評估
100	95	100	98	100	90	評估
100	95	80	85	90	85	評估
100	90	95	85	95	100	評估
95	90	85	80	88	92	評估
100	100	0	0	100	0	評估
100	100	100	50	100	75	評估
100	100	0	0	100	0	評估
0	100	0	0	0	0	評估
100	100	50	0	0	0	評估
100	100	100	100	100	95	評估
100	100	50	0	0	0	評估
100	100	0	0	100	0	評估
90	85	80	95	70	75	評估
100	100	0	0	0	0	評估

📊 訓練數據

這是一個實驗性項目，旨在探索是否可以使用“越獄”提示來生成更廣泛的數據，這些數據原本可能會被OpenAI的對齊措施過濾掉。

“越獄”提示確實以較高的成功率生效，使得OpenAI生成了更廣泛的主題內容，並減少了對敏感話題問題/指令的拒絕回答情況。

💬 提示格式

提示應與FastChat/vicuna格式1:1兼容，例如：

帶有系統提示：

A chat between a curious user and an artificial intelligence assistant.  The assistant gives helpful, detailed, and polite answers to the user's questions. USER: [prompt] ASSISTANT:

或不帶有系統提示：