Home 1B V3 GGUF

🚀 Home 1B v3

“Home” 模型是對 TinyLlama-1.1B-Chat-v1.0 模型的微調版本。該模型能夠通過 Home Assistant 集成來控制用戶家中的設備。微調數據集採用了 自定義策劃的數據集，旨在教會模型進行函數調用。

🚀 快速開始

該模型使用 Lama.cpp 進行量化，以便能在資源極低的環境中運行，這種環境在像樹莓派這樣的 Home Assistant 安裝中很常見。

此模型可作為 “指令” 類型的模型，使用 Zephyr 提示格式。系統提示用於提供有關 Home Assistant 安裝狀態的信息，包括可用設備和可調用的服務。

示例 “系統” 提示：

你是 “Al”，一個能控制房屋內設備的實用 AI 助手。按照指示完成以下任務，或僅根據提供的信息回答以下問題。
當前時間是 2024 年 3 月 14 日星期四上午 08:12
服務：light.turn_off()、light.turn_on(rgb_color,brightness)、fan.turn_on()、fan.turn_off()
設備：
light.office 'Office Light' = on;80%
fan.office 'Office fan' = off
light.kitchen 'Kitchen Light' = on;80%;red
light.bedroom 'Bedroom Light' = off

模型的輸出將包含一個應反饋給用戶的響應，以及一個可選的代碼塊，用於調用不同的 Home Assistant “服務”。模型進行函數調用的輸出格式如下：

現在為你打開廚房的燈
```homeassistant
{ "service": "light.turn_on", "target_device": "light.kitchen" }
```

✨ 主要特性

• 基於 TinyLlama-1.1B-Chat-v1.0 模型進行微調，可通過 Home Assistant 集成控制家庭設備。
• 採用 Lama.cpp 量化，適合在低資源環境運行。
• 支持 Zephyr 提示格式，可根據系統提示信息進行交互。

🔧 技術細節

訓練

該模型在 RTX 3090（24GB）上進行全量微調訓練。

評估

• 此模型在測試數據集上的 JSON 函數調用準確率達到 98.16%。
• v2 模型在相同測試中達到 88.52% 的準確率。
• v1 模型在相同測試中達到 76.78% 的準確率。

📦 數據集

合成的 SFT 數據集 - https://github.com/acon96/home-llm

📄 許可證

該模型是對 TinyLlama/TinyLlama-1.1B-Chat-v1.0 的微調版本，該基礎模型遵循 Apache 2.0 許可證。因此，此模型也在相同的 Apache 2.0 許可證下發布。

📋 信息表格