Inkbot 13B 8k 0.2

🚀 Inkbot對話式AI模型

Inkbot是一款對話式AI模型，專為解讀和響應結構化提示而設計，無論是否有上下文信息均可使用。其獨特的結構化提示系統，能讓用戶根據上下文、元數據和輸入內容進行動態對話。

🚀 快速開始

Inkbot使用結構化提示模板系統。

提示模板結構

有上下文時：

<#meta#>
- Date: {current_date}
- Task: {task_name}
<#system#>
{system_prompt}
<#chat#>
<#user#>
{user}
<#user_context#>
{user_context}
<#bot#>
{bot}

無上下文時：

<#meta#>
- Date: {current_date}
- Task: {task_name}
<#system#>
{system_prompt}
<#chat#>
<#user#>
{user}
<#bot#>
{bot}

使用示例

有上下文時：

<#meta#>
- Date: 2023-07-20
- Task: general
<#system#>
A dialogue focused on determining dates based on context clues.
<#chat#>
<#user#>
What is today's date?
<#bot#>
The date is: 2023-07-20
<#user#>
When did the event in the provided context take place?
<#user_context#>
It's the day after new years eve, and I'm starting 2018 with a headache.
<#bot#>
The event in the context took place on: 2018-01-01

無上下文時：

<#meta#>
- Date: 2023-07-20
- Task: general
<#system#>
A simple dialogue about daily queries.
<#chat#>
<#user#>
Will it rain today?
<#bot#>
I am not sure, without knowing your location I am unable to determine the weather.
<#user#>
Can you compose a haiku for me?
<#bot#>
Whispers of the breeze,
Nature's melodies unfold,
Dawn dispels the night.

✨ 主要特性

性能表現

• 該模型在RAG類型查詢、根據上下文回答問題以及必要時覆蓋記憶方面表現出色。
• 它能夠處理非常大的上下文，但有時可能會進入文本循環，尤其是在處理複雜任務時。
• 該模型更注重功能性，而非閒聊，避免在多餘的語言上浪費令牌。

📚 詳細文檔

任務選項

該模型經過多種任務的訓練。以下是這些任務的細分，以及幫助指導使用的示例提示。

1. 文本優化

此類任務旨在提高文本的質量和清晰度。

• 清晰度（100個示例）
  • 示例提示：
    • "請閱讀以下內容並進行修改，以確保清晰的溝通和可理解性。"
    • "確保以下文本易於任何讀者理解。"
• 連貫性（750個示例）
  • 示例提示：
    • "審查內容並進行調整，以確保其具有邏輯一致性和流暢性。"
    • "確保以下段落無縫銜接。"
• 正式化（800個示例）
  • 示例提示：
    • "請將以下非正式文本轉換為更正式的語氣。"
    • "使給定內容聽起來更專業。"
• 語法糾錯（1500個示例）
  • 示例提示：
    • "優化以下內容，重點修復語法錯誤。"
    • "糾正以下文本中的任何語法錯誤。"
• 中立化（800個示例）
  • 示例提示：
    • "以中立的語氣重寫以下內容，消除任何偏見或強烈情緒。"
    • "確保以下文本客觀，不顯示任何個人意見。"
• 文本校正（1400個示例）
  • 示例提示：
    • "請閱讀提供的文檔以理解作者的意圖。專注於文檔中需要修復的問題，如轉錄錯誤、標點符號、拼寫錯誤和一致性問題。提供文檔的修正版本。"
• 簡化（900個示例）
  • 示例提示：
    • "使用更簡單的措辭傳達以下內容中的信息。"
    • "使以下文本更易於兒童理解。"

2. 內容生成

此類任務涉及創建或擴展內容。

• 知識圖譜寫作（800個示例）
  • 示例提示：
    • "使用提供的知識圖譜，撰寫一篇關於圖中主題和實體的文章，融入相關想法。寫作時使用想法標籤以幫助聚焦。"
    • "根據知識圖譜中的信息構建一個故事。"
• 摘要生成（1600個示例）
  • 示例提示：
    • "生成給定文檔的詳細摘要。"
    • "請閱讀提供的文檔以理解上下文和內容。利用此理解生成摘要。將文章分成若干塊，並依次為每塊創建摘要。最後給出最終摘要。"
• 釋義（1100個示例）
  • 示例提示：
    • "在保留原意的同時改寫以下句子。"
    • "你能為以下段落提供另一種表述方式嗎？"

3. 內容分析

此類任務用於評估、評分或過濾內容。

• 評分（400個示例）
  • 示例提示：
    • "根據提供的文檔，請在0 - 5的範圍內對其作為訓練數據的有用性進行評分。"
• 贊助內容提取（5200個示例）
  • 示例提示：
    • "閱讀文檔並提取任何明確提及贊助、促銷合作或任何形式付費內容的句子或短語。"

4. 信息結構化

此類任務涉及信息的結構化表示或提取。

• 知識圖譜構建（3600個示例）
  • 示例提示：
    • "根據提供的文檔創建一個知識圖譜。"
    • "從對話中提取關鍵概念和關係以形成知識圖譜。"

5. 通用交互

此類任務用於一般問題和交互。

• 通用問題（1600個示例）
  • 示例提示：
    • "法國的首都是什麼？"
    • "向一個5歲的孩子解釋粒子物理學。"

🔧 技術細節

侷限性

• 為獲得最佳效果，請遵循提示結構。
• 提供上下文細節時，清晰性對於Inkbot得出準確和有意義的響應至關重要。
• 用戶上下文屬性的覆蓋記憶功能通常僅對接下來的一兩個提示有效，之後模型將恢復其原始行為。
• 在處理複雜任務時，如根據上下文中的一組事實創建連貫的故事，隨著上下文的填充，可能會出現文本循環。
• 有時模型不知道何時結束知識圖譜，這可能導致不斷添加節點和邊，直到上下文用盡。

附加說明

• 對於8k上下文，使用rope-freq-scale=0.5或compress_pos_emb=2。
• “日期”、“任務”和“系統”是需要在核心對話之外提供的關鍵元數據組件。
• 當你想提供補充上下文以指導Inkbot的響應時，請使用“用戶上下文”。你可以根據需要將其插入聊天記錄中，它應在用戶指令之後。
• 特定的標籤格式，如<#word#>，是因為許多API中有針對<|word|>的過濾器，這樣可以使交互更輕鬆。

📄 許可證

本模型遵循llama2許可證。