Qwen3 0.6B ONNX

🚀 Transformers.js

Transformers.jsは、Qwen/Qwen3-0.6BモデルをONNXウェイトと共に使用し、Transformers.jsと互換性を持たせるライブラリです。これにより、Web上での機械学習モデルの実行が容易になります。

🚀 クイックスタート

まずは、Transformers.jsライブラリをインストールしましょう。以下のコマンドを使用して、NPMからインストールできます。

npm i @huggingface/transformers

💻 使用例

基本的な使用法

インストールが完了したら、以下のコードを使用してモデルを使うことができます。

import { pipeline, TextStreamer } from "@huggingface/transformers";

// Create a text generation pipeline
const generator = await pipeline(
  "text-generation",
  "onnx-community/Qwen3-0.6B-ONNX",
  { dtype: "q4f16" },
);

// Define the list of messages
const messages = [
  { role: "system", content: "You are a helpful assistant." },
  { role: "user", content: "Write me a poem about Machine Learning." },
];

// Generate a response
const output = await generator(messages, {
    max_new_tokens: 512,
    do_sample: false,
    streamer: new TextStreamer(generator.tokenizer, { skip_prompt: true, skip_special_tokens: true}),
});
console.log(output[0].generated_text.at(-1).content);

📚 詳細ドキュメント

ONNXウェイト用の別のリポジトリを用意するのは、WebMLが普及するまでの一時的な解決策です。モデルをWebで使用可能にする場合は、🤗 Optimumを使用してONNXに変換し、このリポジトリのように構成することをおすすめします（ONNXウェイトはonnxというサブフォルダに配置します）。

📦 モデル情報

🔗 参考リンク

• Transformers.jsドキュメント
• Optimumドキュメント