Instagger

🚀 InsTagger

InsTagger 是一款用於自動提供指令標籤的工具，它通過從 InsTag 中提煉標籤結果來實現這一功能。InsTag 旨在分析與人類偏好一致的大語言模型（LLM）監督微調（SFT）數據。為了實現本地標籤部署，我們發佈了基於 InsTag 結果進行微調的 InsTagger，用於對 SFT 數據中的查詢進行標籤標註。通過標籤範圍，我們從開放資源的 SFT 數據中抽樣出一個 6K 的子集，用於微調 LLaMA 和 LLaMA - 2，微調後的模型 TagLM - 13B - v1.0 和 TagLM - 13B - v2.0 在 MT - Bench 上的表現優於許多開放資源的大語言模型。

🚀 快速開始

本模型直接基於 FastChat 開發。因此，通過選擇 vicuna 模板，它可以輕鬆地使用 FastChat 進行推理或服務。

✨ 主要特性

• 自動提供指令標籤，基於 InsTag 結果進行提煉。
• 可用於本地標籤部署，對 SFT 數據中的查詢進行標籤標註。
• 微調後的模型在 MT - Bench 上表現出色。

📚 詳細文檔

模型描述

模型來源

• 倉庫：https://github.com/OFA-Sys/InsTag
• 論文：Arxiv
• 演示：ModelScope 演示

📄 許可證

本項目採用 apache - 2.0 許可證。