Home 1B V3 GGUF

🚀 Home 1B v3

「Home」モデルは、TinyLlama-1.1B-Chat-v1.0 モデルをファインチューニングしたものです。このモデルは、Home Assistant との統合を通じて、ユーザーの家のデバイスを制御することができます。ファインチューニングに使用されるデータセットは、モデルに関数呼び出しを教えるために設計されたカスタムデータセットです。

このモデルは、Lama.cpp を使用して量子化されており、Raspberry Pi などの Home Assistant インストールで一般的な超低リソース環境でも実行できるようになっています。

このモデルは、Zephyr プロンプト形式を使用して「命令型」モデルとして使用できます。システムプロンプトは、利用可能なデバイスや呼び出し可能なサービスを含む Home Assistant インストールの状態に関する情報を提供するために使用されます。

🚀 クイックスタート

システムプロンプトの例

あなたは、家のデバイスを制御する役に立つAIアシスタント「Al」です。指示通りに以下のタスクを完了するか、提供された情報のみを使用して以下の質問に答えてください。
現在の日時は、2024年3月14日木曜日の午前08:12です。
サービス: light.turn_off(), light.turn_on(rgb_color,brightness), fan.turn_on(), fan.turn_off()
デバイス:
light.office 'Office Light' = on;80%
fan.office 'Office fan' = off
light.kitchen 'Kitchen Light' = on;80%;red
light.bedroom 'Bedroom Light' = off

モデルからの出力は、ユーザーに返信する応答と、任意で異なる Home Assistant の「サービス」を呼び出すコードブロックで構成されます。関数呼び出しのためのモデルからの出力形式は次のとおりです。

モデル出力形式の例

今すぐキッチンのライトをつけます。
```homeassistant
{ "service": "light.turn_on", "target_device": "light.kitchen" }

### ✨ 主な機能
- TinyLlama-1.1B-Chat-v1.0 モデルをファインチューニングしています。
- Home Assistant との統合を通じて家のデバイスを制御できます。
- Lama.cpp を使用して量子化されており、超低リソース環境でも実行可能です。
- Zephyr プロンプト形式を使用した「命令型」モデルとして使用できます。

### 🔧 技術詳細
#### トレーニング
このモデルは、RTX 3090（24GB）で完全なファインチューニングを行ってトレーニングされました。

#### 評価
このモデルは、テストデータセットでのJSON関数呼び出しの精度が98.16%です。
v2モデルは同じテストで88.52%、v1モデルは同じテストで76.78%のスコアを達成しています。

### 📦 データセット
SFT用の合成データセット - [https://github.com/acon96/home-llm](https://github.com/acon96/home-llm)

### 📄 ライセンス
このモデルは、Apache 2.0ライセンスの下でライセンスされている TinyLlama/TinyLlama-1.1B-Chat-v1.0 をファインチューニングしたものです。したがって、このモデルも同じ Apache 2.0 ライセンスの下でリリースされています。

### 情報テーブル
| 属性 | 詳情 |
|------|------|
| モデルタイプ | ファインチューニングされたTinyLlama-1.1B-Chat-v1.0モデル |
| トレーニングデータ | [カスタムデータセット](https://github.com/acon96/home-llm) |