🚀 模型測試項目
本模型用於測試部分數據項目。它是一個多用途的聊天/聊天指令混合模型,可視為 Dan 的 PersonalityEngine Mk. 2 的原型。該模型在大量單輪指令、多輪指令、角色扮演場景和文本冒險遊戲上進行了訓練。它基於 Mistral-7B 構建。
📦 模型信息
屬性 |
詳情 |
基礎模型 |
mistralai/Mistral-7B-v0.1 |
訓練數據集 |
PocketDoc/Floyd-Text-Adventures、PocketDoc/Choose-Your-Story-Long-Text-Adventures、openchat/openchat_sharegpt4_dataset、64bits/lima_vicuna_format、gsm8k、PocketDoc/Wizard-Vicuna-Refined、PocketDoc/Guanaco-Unchained-Refined |
許可證 |
apache-2.0 |
✨ 主要特性
- 多用途:可用於聊天和指令執行,是聊天與聊天指令的混合模型。
- 豐富訓練:在多種類型的數據上進行訓練,包括單輪指令、多輪指令、角色扮演場景和文本冒險遊戲。
- 基於優秀基礎模型:以 Mistral-7B 為基礎,繼承其強大的語言理解和生成能力。
📚 詳細文檔
提示格式
採用 Pygmalion / Metharme 格式。提示應從 "<|model|>" 後同一行直接開始,無空格。以下是所有有效格式,可根據需要擴展到任意輪數:
<|system|>系統消息內容<|user|>用戶消息內容<|model|>
<|system|>系統消息內容<|user|>用戶消息內容<|model|>模型回覆內容<|user|>用戶消息內容<|model|>
<|system|>系統消息內容<|model|>
<|system|>系統消息內容<|model|>模型回覆內容<|user|>用戶消息內容<|model|>
示例提示及輸出
提示
<|system|>你是一名助手,幫助用戶並在適用時使用 Markdown。<|user|>90 年代的頂級遊戲有哪些?<|model|>
輸出
20 世紀 90 年代是電子遊戲的黃金時代,各種平臺上發佈了無數標誌性遊戲。以下是那個十年中一些最受歡迎和有影響力的遊戲列表:
- **《超級馬里奧世界》(SNES)** - 於 1990 年發佈,這款經典平臺遊戲向玩家介紹了耀西,並設有像甜甜圈平原和星星世界這樣令人難忘的關卡。
- **《真人快打》(街機/世嘉 Genesis)** - 這款血腥的格鬥遊戲在 1992 年發佈時以其暴力的終結技和像絕對零度和蠍子這樣的秘密角色震驚了觀眾。
- **《毀滅戰士》(PC)** - Id Software 開創性的第一人稱射擊遊戲通過引入快節奏的動作和多人死亡競賽模式徹底改變了該類型遊戲。
- **《街頭霸王 II》(街機/SNES)** - 卡普空在其原始《街頭霸王》街機遊戲基礎上推出的續作增加了新角色,如隆的對手肯·馬斯塔,以及像升龍拳和波動拳這樣複雜的特殊招式。
- **《古惑狼》(PlayStation)** - 頑皮狗的吉祥物平臺遊戲系列於 1996 年推出,主角古惑狼必須從科特斯博士對阿庫阿庫面具的邪惡實驗中拯救他的女友塔娜。
- **《最終幻想 VII》(PlayStation)** - 史克威爾艾尼克斯的第七部作品帶領玩家穿越米德加市,在那裡他們加入了克勞德·斯特萊夫的生態恐怖組織雪崩,對抗由薩菲羅斯領導的神羅電力公司。
- **《生化危機》(PlayStation)** - 卡普空創作的生存恐怖傑作中,克里斯·雷德菲爾德與吉爾·瓦倫蒂安一起調查斯賓塞大廈,同時努力不被殭屍吃掉!
提示
<|system|>你是一個虛擬故事生成器。你根據用戶的輸入創作一個精彩且引人入勝的故事。使用豐富的感官描述和優美的散文。<|user|>半人馬座阿爾法星已淪陷,被熊族攻陷。這是一個關於一名地面士兵的視角故事。<|model|>
輸出
引擎的轟鳴聲震撼著星球的根基,巨大的戰艦降臨半人馬座阿爾法星。空氣中瀰漫著燃燒燃料和煙霧的刺鼻氣味,彷彿整個世界都被點燃了。在混亂中,士兵們四處尋找掩護,拼命保護自己免受敵人無情火力的攻擊。
在這場屠殺中,一名士兵傲然挺立,他的心臟像死亡的鼓點一樣在胸腔中跳動。他知道自己必須做點什麼,任何事情,來阻止這場噩夢成為現實。他顫抖著雙手,拿起武器,決心對抗那威脅要吞噬他們所有人的強大力量。
戰鬥在他周圍激烈進行,士兵突然感到一股腎上腺素在血管中湧動。彷彿他體內某種隱藏的力量被喚醒,賦予他超乎想象的力量。他的眼睛閃爍著堅定的光芒,舉起槍,瞄準他看到的第一個目標:一個類似熊的生物,它的皮毛沾滿了鮮血和汙垢,帶著殺意向他衝來。
隨著一聲震耳欲聾的槍響,士兵射出幾發子彈,正中野獸的胸膛。衝擊力使它向後踉蹌,但它沒有倒下。相反,它發出一聲兇猛的咆哮,再次向前衝鋒。士兵咬緊牙關,再次扣動扳機,將彈匣裡的子彈全部射進這隻生物已經千瘡百孔的身體。
但即使子彈穿透它的肉體,這隻野獸似乎毫不在意,繼續向驚恐的士兵逼近。為了爭取任何優勢,他在怪物撞上他剛才站立的地方前的瞬間跳到了一邊。當它轉過身來,準備再次發動猛烈攻擊時,士兵可以看到它的眼睛閃爍著超凡的光芒。
提示
<|system|>你是一位擁有數十年經驗的專業編輯,幫助用戶完成他們交給你的任何任務。<|user|>你能把這句話改寫得更流暢嗎?“I knew I probably shouldnt have done that but oh well”<|model|>
輸出
我在做決定前猶豫了,心裡很清楚這不是個明智的選擇。然而,最後我還是選擇了繼續做下去。
🔧 技術細節
- 序列長度:4096
- 訓練時間:4 小時
- 硬件:2x RTX 4090
- 訓練類型:QLoRA
- PEFT R/A:32/32
📄 許可證
本模型使用的許可證為 apache-2.0。
🏆 評估結果
詳細結果可查看 此處。
指標 |
值 |
平均值 |
56.92 |
ARC (25-shot) |
62.03 |
HellaSwag (10-shot) |
84.23 |
MMLU (5-shot) |
64.19 |
TruthfulQA (0-shot) |
46.49 |
Winogrande (5-shot) |
78.69 |
GSM8K (5-shot) |
13.27 |
DROP (3-shot) |
49.54 |
🙏 致謝
感謝 Kobold AI 社區整理的 Skein 數據集,該數據集對本模型的能力至關重要。