Dans TotSirocco 7b

🚀 このモデルについて

このモデルは、いくつかのデータプロジェクトをテストするためのものです。これは多目的のチャット/チャットインストラクトハイブリッドモデルであり、Dan's PersonalityEngine Mk. 2のプロトタイプと見なすことができます。様々なワンショットインストラクション、マルチラウンドインストラクション、ロールプレイングシナリオ、テキストアドベンチャーゲームでトレーニングされています。Mistral-7bをベースにしています。

🚀 クイックスタート

データセット

• PocketDoc/Floyd-Text-Adventures
• PocketDoc/Choose-Your-Story-Long-Text-Adventures
• openchat/openchat_sharegpt4_dataset
• 64bits/lima_vicuna_format
• gsm8k
• PocketDoc/Wizard-Vicuna-Refined
• PocketDoc/Guanaco-Unchained-Refined

ライセンス

• apache-2.0

ベースモデル

• mistralai/Mistral-7B-v0.1

📚 ドキュメント

説明

このモデルは、いくつかのデータプロジェクトをテストするために作成されました。多目的のチャット/チャットインストラクトハイブリッドモデルで、Dan's PersonalityEngine Mk. 2のプロトタイプとして位置付けられます。様々なワンショットインストラクション、マルチラウンドインストラクション、ロールプレイングシナリオ、テキストアドベンチャーゲームのデータでトレーニングされています。Mistral-7bをベースに構築されています。

プロンプト形式

Pygmalion / Metharme

プロンプトは、"<|model|>"の直後にスペースを入れずに同じ行にカーソルを置いて始める必要があります。以下はすべて有効な形式で、必要なだけのラウンド数に拡張できます。

<|system|>system message here<|user|>user message here<|model|>

<|system|>system message here<|user|>user message here<|model|>model message<|user|>user message here<|model|>

<|system|>system message here<|model|>

<|system|>system message here<|model|>model message<|user|>user message here<|model|>

プロンプトと出力の例

プロンプト

<|system|>You are an assistant, help the user and use markdown when applicable.<|user|>What are the top games of the 90s?<|model|>

出力

1990年代はビデオゲームの黄金時代で、様々なプラットフォームで数え切れないほどのアイコニックなタイトルがリリースされました。以下は、その年代で最も人気があり、影響力のあったゲームの一部です。

- **Super Mario World** (SNES) - 1990年にリリースされたこの古典的なプラットフォーマーは、ヨッシーをファンに紹介し、ドーナツ平原やスターワールドなどの記憶に残るステージを持っていました。
- **Mortal Kombat** (Arcade/Sega Genesis) - 1992年にリリースされたこの残虐な格闘ゲームは、暴力的なフィニッシャーとサブゼロやスコーピオンなどの隠しキャラクターで観客を驚かせました。
- **Doom** (PC) - Id Softwareによる画期的なファーストパーソンシューターは、ペースの速いアクションとマルチプレイヤーデスマッチを導入することで、このジャンルを革命化しました。
- **Street Fighter II** (Arcade/SNES) - Capcomによる元のストリートファイターアーケードゲームの続編は、リュウのライバルであるケン・マスターズなどの新しい戦闘者と、昇龍拳や波動拳などの複雑な必殺技を追加しました。
- **Crash Bandicoot** (PlayStation) - Naughty Dogのマスコットプラットフォーマーシリーズは1996年にデビューし、クラッシュがコルテックス博士のアクアアクアマスクに対する邪悪な実験から彼のガールフレンドであるタウナを救う必要がありました。
- **Final Fantasy VII** (PlayStation) - Square Enixの7作目は、プレイヤーをミッドガーシティに連れて行き、彼らはクラウド・ストライフのエコテロリストグループであるアバランチュがセフィロス率いるシンラ電力会社と戦うのを見ることができました。
- **Resident Evil** (PlayStation) - Capcomによって作成されたサバイバルホラーの傑作では、クリス・レッドフィールドがジル・バレンタインと一緒にスペンサーマンションを調査し、ゾンビに食べられないようにしました！

プロンプト

<|system|>You are a Virtual Story Generator. You take the user's input and create an excellent and captivating story that goes in that direction. Use an abundance of sensory descriptions and eloquent prose.<|user|>Alpha Centauri has fallen, to the bears. This is a point of view tale about a soldier on the ground.<|model|>

出力

エンジンの轟音が惑星の基礎を揺るがし、巨大な戦艦がアルファ・ケンタウリに降り立ちました。空気は燃える燃料と煙の悪臭で満たされ、まるで世界全体が炎に包まれたかのようでした。混乱の中で、兵士たちは避難場所を求めて必死に動き回り、敵からの猛烈な火力攻撃から身を守ろうとしていました。
死の鼓動のように胸が高鳴る中、ある兵士が立ち直りました。彼は何かをしなければならない、この悪夢が現実になるのを止めなければならないと知っていました。震える手で武器を取り、彼ら全員を飲み込もうとする圧倒的な力に立ち向かう決意を新たにしました。
戦闘が彼の周りで激化する中、兵士は突然、体内に秘められた何かの力が目覚めたような急激なアドレナリンの湧き上がりを感じました。それはまるで、彼自身の中に隠された何かの力が目覚め、彼に計り知れない力を与えたかのようでした。彼の目は決意を燃やし、最初に目にした標的、つまり血とゴロがまみれた毛皮を持ち、殺意を帯びて彼に向かって進んでくるクマのような生物に銃を構えました。
耳をつんざく音とともに、兵士は数発の弾を撃ち、その獣の胸を直撃しました。衝撃でその獣は後ろに倒れましたが、倒れることはありませんでした。代わりに、猛烈な咆哮を上げて再び前に進みました。兵士は歯を食いしばり、もう一度引き金を引き、既に傷だらけのその生物の体に弾薬を空けました。
しかし、弾丸がその肉を突き抜けても、その獣は動揺することなく、恐怖に怯える兵士に向かって進み続けました。どんな有利な状況でも求める兵士は、その怪物が数秒前に彼が立っていた場所に激突する少し前に横に飛び込みました。それが彼に向き直り、もう一度猛烈な一撃を与えようとするとき、兵士はその目が異世界的な光を放っているのを見ることができました。

プロンプト

<|system|>You are a professional editor with decades of experience, help the user with any task they have for you.<|user|>Can you rewrite this to flow better? "I knew I probably shouldnt have done that but oh well"<|model|>

出力

私は決断する前に迷いました。それが賢明ではないことをよく知っていました。しかし、結局、私は無理に進むことを選びました。

🔧 技術詳細

• シーケンス長: 4096
• トレーニング時間: 4時間
• ハードウェア: 2x RTX 4090
• トレーニングタイプ: QLoRA
• PEFT R/A: 32/32

📄 ライセンス

このモデルは、Apache 2.0ライセンスの下で提供されています。

クレジット

Skein Text Adventure Data

このモデルの機能に欠かせないSkeinデータセットを作成してくれたKobold AIコミュニティに感謝します。

Open LLM Leaderboard Evaluation Results

詳細な結果はこちらで確認できます。