Opus V1.2 7b 8.0bpw H8 Exl2

🚀 DreamGen Opus V1

(操縦可能な)ストーリーライティングとロールプレイングに特化したモデルです。このモデルは、さまざまな文章関連のタスクや一般的なアシスタント機能も備えています。 全てのOpus V1モデル（量子化モデルも含む）

🚀 クイックスタート

このモデルは、ストーリーライティングやロールプレイングなどのタスクに特化しています。以下のセクションでは、モデルの使い方や設定方法について説明します。

✨ 主な機能

• ストーリーライティングとロールプレイング：操縦可能なストーリー生成とロールプレイングが可能です。
• 文章関連タスク：ストーリーの要約、キャラクターの説明、スタイルの説明などの文章関連タスクもサポートしています。
• 汎用アシスタント機能：一般的な質問に対する回答やアドバイスを提供します。

📦 インストール

このモデルは、ベースモデルをサポートする任意のソフトウェアと互換性があります。ただし、プロンプトの形式に注意してください（詳細は以下を参照）。

ローカルでの実行

• モデル設定からのチャットテンプレート
  • 通常の「assistant」ロールではなく「text」ロールを使用し、名前をサポートしていません（できない？）。
• LM Studio設定
  • こちらも「text」ロールを使用しています。

DreamGen.comでの実行（無料）

dreamgen.com で無料でモデルを試すことができます。ただし、アカウントが必要です。

💻 使用例

基本的な使用法

モデルは拡張版のChatMLを使用しています。以下は基本的な使用例です。

<|im_start|>system
(適切な形式でのストーリー説明をここに記述)
(通常はプロット説明、スタイル説明、キャラクター説明から構成されます)<|im_end|>
<|im_start|>user
(ストーリーがどのように続くべきかの指示を記述)<|im_end|>
<|im_start|>text names= Alice
(Aliceキャラクターからのストーリーの続きを記述)<|im_end|>
<|im_start|>text
(特定のキャラクターからではないストーリーの続き（純粋なナレーション）を記述)<|im_end|>
<|im_start|>user
(ストーリーがどのように続くべきかの指示を記述)<|im_end|>
<|im_start|>text names= Bob
(Bobキャラクターからのストーリーの続きを記述)<|im_end|>

Opus V1の拡張機能は、textロールの追加とロール名の追加/変更です。以下の点に注意してください。

• textメッセージはnamesを持つことができますが、必須ではありません。名前はロールプレイ中の「アクティブ」なキャラクターを示すために使用されます。
• textロールを持つ複数のメッセージが連続することがあります。特に名前が関係する場合には、このような構成が可能です。
• メッセージには複数の名前を付けることができます。
• 名前の形式は names= {{name[0]}}; {{name[1]}} です。names= の後と ; の後にスペースが必要です。このスペーシングにより、名前のトークン化が最も自然になります。

高度な使用法

以下は、モデルをさまざまなタスクに適用するためのプロンプト例です。

操縦可能なストーリーライティングとロールプレイング

• 入力
  • システムプロンプト：ストーリーまたはロールプレイの説明を提供します。これには、プロット説明、スタイル説明、キャラクターとその説明が含まれます。
  • 会話ターン
    • テキスト/メッセージターン：これはストーリーまたはロールプレイの一部を表します。
    • 指示：モデルに次に何が起こるべきかを指示します。
• 出力：ストーリーまたはロールプレイの続き。

ストーリーのプロット要約

• 入力：ストーリーまたはストーリーの数章。
• 出力：ストーリーまたは章の説明。

ストーリーのキャラクター説明

• 入力：ストーリーまたはストーリーの数章、キャラクターのセット。
• 出力：キャラクターの説明。

ストーリーのスタイル説明

• 入力：ストーリーまたはストーリーの数章。
• 出力：ストーリーのスタイルの説明。

ストーリーの説明から章の説明へ

• 入力：簡単なプロット説明と希望する章の数。
• 出力：各章の説明。

サンプリングパラメータ

ストーリーライティングとロールプレイングの場合、min_p を [0.01, 0.1] の範囲、temperature を [0.5, 1.5] の範囲で「Min P」ベースのサンプリングをお勧めします。好みに応じて調整してください。良いスタート地点は min_p=0.1; temperature=0.8 です。また、特に低い温度では、存在ペナルティ、頻度ペナルティ、繰り返しペナルティを設定すると効果的です。

📚 ドキュメント

完全なOpus V1プロンプトガイド を読むことで、多くの（インタラクティブな）例とすぐにコピーできるプロンプトを見ることができます。

🔧 技術詳細

データセット

微調整用のデータセットは、操縦可能なストーリーライティング、ロールプレイング、文章アシスタント、汎用アシスタントの例を約1億トークン含んでいます。各例は最大31000トークンまでの長さでした。すべてのストーリーライティングとロールプレイングの例は、人間が書いたテキストに基づいています。

📄 ライセンス

このモデルは個人使用のみを目的としており、その他の使用は許可されていません。

コミュニティ

新しいモデルの早期アクセスを得るために、Discord でDreamGenコミュニティに参加しましょう。