Mobileclip S0

🚀 Transformers.js

Transformers.jsは、画像のゼロショット分類を行うためのJavaScriptライブラリです。ONNXウェイトを使用して、mobileclipモデルを利用できます。

🚀 クイックスタート

Transformers.jsを使って、ゼロショット画像分類を行うことができます。以下に、具体的な手順を説明します。

📦 インストール

まずは、Transformers.jsをインストールしましょう。以下のコマンドを使用して、NPMからインストールできます。

npm i @huggingface/transformers

💻 使用例

基本的な使用法

以下のコードは、ゼロショット画像分類を行う基本的な使用例です。

import {
  AutoTokenizer,
  CLIPTextModelWithProjection,
  AutoProcessor,
  CLIPVisionModelWithProjection,
  RawImage,
  dot,
  softmax,
} from '@huggingface/transformers';

const model_id = 'Xenova/mobileclip_s0';

// Load tokenizer and text model
const tokenizer = await AutoTokenizer.from_pretrained(model_id);
const text_model = await CLIPTextModelWithProjection.from_pretrained(model_id);

// Load processor and vision model
const processor = await AutoProcessor.from_pretrained(model_id);
const vision_model = await CLIPVisionModelWithProjection.from_pretrained(model_id);

// Run tokenization
const texts = ['cats', 'dogs', 'birds'];
const text_inputs = tokenizer(texts, { padding: 'max_length', truncation: true });

// Compute text embeddings
const { text_embeds } = await text_model(text_inputs);
const normalized_text_embeds = text_embeds.normalize().tolist();

// Read image and run processor
const url = 'https://huggingface.co/datasets/Xenova/transformers.js-docs/resolve/main/cats.jpg';
const image = await RawImage.read(url);
const image_inputs = await processor(image);

// Compute vision embeddings
const { image_embeds } = await vision_model(image_inputs);
const normalized_image_embeds = image_embeds.normalize().tolist();

// Compute probabilities
const probabilities = normalized_image_embeds.map(
  x => softmax(normalized_text_embeds.map(y => 100 * dot(x, y)))
);
console.log(probabilities); // [[ 0.9989384093386391, 0.001060433633052551, 0.000001157028308360134 ]]

📄 ライセンス

このライブラリは、otherライセンスの下で提供されています。

参考リンク

• https://github.com/apple/ml-mobileclip を参考に、ONNXウェイトを使用してTransformers.jsと互換性を持たせています。