Inkbot 13B 8k 0.2

🚀 Inkbotのモデルカード

Inkbotは、文脈情報の有無に関わらず、構造化されたプロンプトを解釈して応答する会話型AIモデルです。構造化プロンプトシステムが特徴で、文脈、メタデータ、ユーザー入力に基づいて進化する動的な対話が可能です。

✨ 主な機能

性能

• このモデルは、RAGタイプのクエリ、文脈からの回答、必要に応じたメモリの上書きに優れています。
• 非常に大きな文脈を扱うことができますが、複雑なタスク中には、時々テキストの繰り返しループに入ることがあります。
• このモデルは、機能性を重視し、冗長な言葉でトークンを浪費することを避けるため、あまりおしゃべりではありません。

🚀 クイックスタート

Inkbotは構造化プロンプトテンプレートシステムを使用しています。

📦 インストール

このREADMEにはインストール手順が記載されていません。

💻 使用例

基本的な使用法

プロンプトテンプレート構造

文脈付き:

<#meta#>
- Date: {current_date}
- Task: {task_name}
<#system#>
{system_prompt}
<#chat#>
<#user#>
{user}
<#user_context#>
{user_context}
<#bot#>
{bot}

文脈なし:

<#meta#>
- Date: {current_date}
- Task: {task_name}
<#system#>
{system_prompt}
<#chat#>
<#user#>
{user}
<#bot#>
{bot}

具体的な使用例

文脈付き:

<#meta#>
- Date: 2023-07-20
- Task: general
<#system#>
A dialogue focused on determining dates based on context clues.
<#chat#>
<#user#>
What is today's date?
<#bot#>
The date is: 2023-07-20
<#user#>
When did the event in the provided context take place?
<#user_context#>
It's the day after new years eve, and I'm starting 2018 with a headache.
<#bot#>
The event in the context took place on: 2018-01-01

文脈なし:

<#meta#>
- Date: 2023-07-20
- Task: general
<#system#>
A simple dialogue about daily queries.
<#chat#>
<#user#>
Will it rain today?
<#bot#>
I am not sure, without knowing your location I am unable to determine the weather.
<#user#>
Can you compose a haiku for me?
<#bot#>
Whispers of the breeze,
Nature's melodies unfold,
Dawn dispels the night.

📚 ドキュメント

タスクオプション

このモデルは様々なタスクで訓練されています。以下に、これらのタスクの内訳と、使用をガイドするためのプロンプトの例を示します。

1. テキストの改良

このカテゴリのタスクは、テキストの品質と明瞭さを向上させることを目的としています。

• 明瞭化 (100例)
  • 例のプロンプト:
    • "Please read the content below and revise it to ensure clear communication and understandability."
    • "Ensure the following text is easy for any reader to understand."
• 一貫性 (750例)
  • 例のプロンプト:
    • "Review the content and adjust it to ensure it has a logical consistency and flow."
    • "Make sure the following paragraphs connect seamlessly."
• 形式化 (800例)
  • 例のプロンプト:
    • "Please convert the following informal text into a more formal tone."
    • "Make the given content sound more professional."
• 文法修正 (1,500例)
  • 例のプロンプト:
    • "Refine the following content, focusing on fixing grammatical errors."
    • "Correct any grammar mistakes in the text below."
• 中立化 (800例)
  • 例のプロンプト:
    • "Rewrite the following content in a neutral tone, removing any biases or strong emotions."
    • "Ensure the text below is objective and does not show any personal opinions."
• テキスト修正 (1,400例)
  • 例のプロンプト:
    • "Please read the provided document to understand the author's intention. Focus on the fixes required in the document, such as mistranscriptions, punctuation, spelling mistakes, and consistency. Provide a fixed version of the document."
• 簡略化 (900例)
  • 例のプロンプト:
    • "Use simpler wording to convey the message in the content below."
    • "Make the following text easier for a child to understand."

2. コンテンツ生成

このカテゴリのタスクは、コンテンツの作成または拡張を伴います。

• 知識グラフライター (800例)
  • 例のプロンプト:
    • "Using the provided knowledge graph, write an article about the topics and entities in the graph, incorporating the linked ideas. Use idea tags while writing to help focus."
    • "Construct a story based on the information in the knowledge graph."
• 要約 (1,600例)
  • 例のプロンプト:
    • "Generate an extensive summary of the given document."
    • "Please read the provided document to understand the context and content. Use this understanding to generate a summary. Separate the article into chunks, and sequentially create a summary for each chunk. Give me a final summary in the end."
• 言い換え (1,100例)
  • 例のプロンプト:
    • "Rephrase the following sentence while retaining its original meaning."
    • "Can you provide an alternative wording for the paragraph below?"

3. コンテンツ分析

このカテゴリのタスクは、コンテンツの評価、採点、またはフィルタリングを行います。

• 採点 (400例)
  • 例のプロンプト:
    • "Based on the provided document, please rate the usefulness as training data on a scale from 0-5."
• スポンサーブロック (5,200例)
  • 例のプロンプト:
    • "Read the document and extract any sentences or phrases that contain explicit mentions of sponsorship, promotional partnerships, or any form of paid content."

4. 情報構造化

このカテゴリのタスクは、情報の構造化表現または抽出を伴います。

• 知識グラフ (3,600例)
  • 例のプロンプト:
    • "Create a Knowledge Graph from the document provided."
    • "Extract key concepts and relationships from the conversation to form a knowledge graph."

5. 一般的な対話

このカテゴリのタスクは、一般的な質問や対話を目的としています。

• 一般 (1,600例)
  • 例のプロンプト:
    • "What is the capital of France?"
    • "Explain particle physics to a 5 years old."

🔧 技術詳細

このREADMEには技術的な詳細が記載されていません。

制限事項

• 最良の結果を得るには、プロンプト構造に従ってください。
• 文脈の詳細を提供する際には、Inkbotが正確で意味のある応答を導き出すために、明瞭さが不可欠です。
• user_context プロパティからのメモリの上書きは、一般的に次の1つまたは2つのプロンプトにのみ有効で、その後はモデルは元の動作に戻ります。
• 文脈からの一連の事実に基づいて首尾一貫した物語を作成するなどの複雑なタスクでは、文脈が埋まるにつれてテキストの繰り返しループが発生する可能性があります。
• 時々、モデルは知識グラフをいつ終了すべきかを判断できず、コンテキストがなくなるまでノードとエッジを追加することがあります。

追加注意事項

• 8kのコンテキストでは、rope-freq-scale=0.5 または compress_pos_emb=2 を使用してください。
• date、task、および system は、コア対話の外で提供する必要がある重要なメタデータの要素です。
• Inkbotの応答を導く補足的な文脈を提供したい場合は、user_context を使用してください。必要に応じてチャットログに挿入することができます。これはユーザーの指示の後に来ます。
• <#word#> のような特定のタグ形式は、多くのAPIに <|word|> のフィルターがあるため、対話を容易にするために使用されます。

📄 ライセンス

• license: llama2