Owlvit Base Patch32

🚀 零樣本目標檢測模型（基於Transformers.js）

本項目將谷歌的 google/owlvit-base-patch32 模型轉換為ONNX權重，以適配 Transformers.js 庫，實現零樣本目標檢測功能。

🚀 快速開始

本項目使用 Transformers.js 庫實現零樣本目標檢測。你可以按照以下步驟快速開始使用。

📦 安裝指南

如果你還沒有安裝 Transformers.js JavaScript庫，可以使用以下命令從 NPM 進行安裝：

npm i @xenova/transformers

💻 使用示例

基礎用法

以下示例展示瞭如何使用 Xenova/owlvit-base-patch32 模型進行零樣本目標檢測：

import { pipeline } from '@xenova/transformers';

const detector = await pipeline('zero-shot-object-detection', 'Xenova/owlvit-base-patch32');

const url = 'https://huggingface.co/datasets/Xenova/transformers.js-docs/resolve/main/astronaut.png';
const candidate_labels = ['human face', 'rocket', 'helmet', 'american flag'];
const output = await detector(url, candidate_labels);
// [
//   { score: 0.24392342567443848, label: 'human face', box: { xmin: 180, ymin: 67, xmax: 274, ymax: 175 } },
//   { score: 0.15129457414150238, label: 'american flag', box: { xmin: 0, ymin: 4, xmax: 106, ymax: 513 } },
//   { score: 0.13649864494800568, label: 'helmet', box: { xmin: 277, ymin: 337, xmax: 511, ymax: 511 } },
//   { score: 0.10262022167444229, label: 'rocket', box: { xmin: 352, ymin: -1, xmax: 463, ymax: 287 } }
// ]

高級用法

以下示例展示瞭如何使用 Xenova/owlvit-base-patch32 模型進行零樣本目標檢測，並使用額外的參數：

import { pipeline } from '@xenova/transformers';

const detector = await pipeline('zero-shot-object-detection', 'Xenova/owlvit-base-patch32');

const url = 'https://huggingface.co/datasets/Xenova/transformers.js-docs/resolve/main/beach.png';
const candidate_labels = ['hat', 'book', 'sunglasses', 'camera'];
const output = await detector(url, candidate_labels, { topk: 4, threshold: 0.05 });
// [
//   { score: 0.1606510728597641, label: 'sunglasses', box: { xmin: 347, ymin: 229, xmax: 429, ymax: 264 } },
//   { score: 0.08935828506946564, label: 'hat', box: { xmin: 38, ymin: 174, xmax: 258, ymax: 364 } },
//   { score: 0.08530698716640472, label: 'camera', box: { xmin: 187, ymin: 350, xmax: 260, ymax: 411 } },
//   { score: 0.08349756896495819, label: 'book', box: { xmin: 261, ymin: 280, xmax: 494, ymax: 425 } }
// ]

⚠️ 重要提示

為ONNX權重單獨創建一個倉庫是一種臨時解決方案，直到WebML獲得更廣泛的應用。如果你想讓你的模型適用於Web，我們建議使用 🤗 Optimum 將模型轉換為ONNX格式，並按照本倉庫的結構進行組織（將ONNX權重放在名為 onnx 的子文件夾中）。