Uground V1 72B Preview

🚀 Qwen2-VL-72B-Instruct

Qwen-VLモデルの最新版であるQwen2-VLをご紹介します。これは約1年間の革新的な開発の成果です。

🚀 クイックスタート

このプレビューモデルは、LoRAを用いて1エポックで訓練されています。完全に訓練された別のチェックポイントはこちら（ScreenSpot-ProとScreenSpotでわずかに良好な性能を示します）。

Qwen2-VLのコードは最新のHugging face transformersに含まれています。以下のコマンドでソースからビルドすることをおすすめします。そうしないと、以下のエラーが発生する可能性があります。

KeyError: 'qwen2_vl'

pip install git+https://github.com/huggingface/transformers

様々な種類の視覚入力をより便利に扱うためのツールキットが用意されています。これには、base64、URL、画像と動画の交互入力が含まれます。以下のコマンドでインストールできます。

pip install qwen-vl-utils

以下は、transformersとqwen_vl_utilsを使用してチャットモデルを使うコードスニペットです。

from transformers import Qwen2VLForConditionalGeneration, AutoTokenizer, AutoProcessor
from qwen_vl_utils import process_vision_info

# default: Load the model on the available device(s)
model = Qwen2VLForConditionalGeneration.from_pretrained(
    "Qwen/Qwen2-VL-72B-Instruct", torch_dtype="auto", device_map="auto"
)

# We recommend enabling flash_attention_2 for better acceleration and memory saving, especially in multi-image and video scenarios.
# model = Qwen2VLForConditionalGeneration.from_pretrained(
#     "Qwen/Qwen2-VL-72B-Instruct",
#     torch_dtype=torch.bfloat16,
#     attn_implementation="flash_attention_2",
#     device_map="auto",
# )

# default processer
processor = AutoProcessor.from_pretrained("Qwen/Qwen2-VL-72B-Instruct")

# The default range for the number of visual tokens per image in the model is 4-16384. You can set min_pixels and max_pixels according to your needs, such as a token count range of 256-1280, to balance speed and memory usage.
# min_pixels = 256*28*28
# max_pixels = 1280*28*28
# processor = AutoProcessor.from_pretrained("Qwen/Qwen2-VL-72B-Instruct", min_pixels=min_pixels, max_pixels=max_pixels)

messages = [
    {
        "role": "user",
        "content": [
            {
                "type": "image",
                "image": "https://qianwen-res.oss-cn-beijing.aliyuncs.com/Qwen-VL/assets/demo.jpeg",
            },
            {"type": "text", "text": "Describe this image."},
        ],
    }
]

# Preparation for inference
text = processor.apply_chat_template(
    messages, tokenize=False, add_generation_prompt=True
)
image_inputs, video_inputs = process_vision_info(messages)
inputs = processor(
    text=[text],
    images=image_inputs,
    videos=video_inputs,
    padding=True,
    return_tensors="pt",
)
inputs = inputs.to("cuda")

# Inference: Generation of the output
generated_ids = model.generate(**inputs, max_new_tokens=128)
generated_ids_trimmed = [
    out_ids[len(in_ids) :] for in_ids, out_ids in zip(inputs.input_ids, generated_ids)
]
output_text = processor.batch_decode(
    generated_ids_trimmed, skip_special_tokens=True, clean_up_tokenization_spaces=False
)
print(output_text)

from PIL import Image
import requests
import torch
from torchvision import io
from typing import Dict
from transformers import Qwen2VLForConditionalGeneration, AutoTokenizer, AutoProcessor

# Load the model in half-precision on the available device(s)
model = Qwen2VLForConditionalGeneration.from_pretrained(
    "Qwen/Qwen2-VL-72B-Instruct", torch_dtype="auto", device_map="auto"
)
processor = AutoProcessor.from_pretrained("Qwen/Qwen2-VL-72B-Instruct")

# Image
url = "https://qianwen-res.oss-cn-beijing.aliyuncs.com/Qwen-VL/assets/demo.jpeg"
image = Image.open(requests.get(url, stream=True).raw)

conversation = [
    {
        "role": "user",
        "content": [
            {
                "type": "image",
            },
            {"type": "text", "text": "Describe this image."},
        ],
    }
]


# Preprocess the inputs
text_prompt = processor.apply_chat_template(conversation, add_generation_prompt=True)
# Excepted output: '<|im_start|>system\nYou are a helpful assistant.<|im_end|>\n<|im_start|>user\n<|vision_start|><|image_pad|><|vision_end|>Describe this image.<|im_end|>\n<|im_start|>assistant\n'

inputs = processor(
    text=[text_prompt], images=[image], padding=True, return_tensors="pt"
)
inputs = inputs.to("cuda")

# Inference: Generation of the output
output_ids = model.generate(**inputs, max_new_tokens=128)
generated_ids = [
    output_ids[len(input_ids) :]
    for input_ids, output_ids in zip(inputs.input_ids, output_ids)
]
output_text = processor.batch_decode(
    generated_ids, skip_special_tokens=True, clean_up_tokenization_spaces=True
)
print(output_text)

# Messages containing multiple images and a text query
messages = [
    {
        "role": "user",
        "content": [
            {"type": "image", "image": "file:///path/to/image1.jpg"},
            {"type": "image", "image": "file:///path/to/image2.jpg"},
            {"type": "text", "text": "Identify the similarities between these images."},
        ],
    }
]

# Preparation for inference
text = processor.apply_chat_template(
    messages, tokenize=False, add_generation_prompt=True
)
image_inputs, video_inputs = process_vision_info(messages)
inputs = processor(
    text=[text],
    images=image_inputs,
    videos=video_inputs,
    padding=True,
    return_tensors="pt",
)
inputs = inputs.to("cuda")

# Inference
generated_ids = model.generate(**inputs, max_new_tokens=128)
generated_ids_trimmed = [
    out_ids[len(in_ids) :] for in_ids, out_ids in zip(inputs.input_ids, generated_ids)
]
output_text = processor.batch_decode(
    generated_ids_trimmed, skip_special_tokens=True, clean_up_tokenization_spaces=False
)
print(output_text)

# Messages containing a images list as a video and a text query
messages = [
    {
        "role": "user",
        "content": [
            {
                "type": "video",
                "video": [
                    "file:///path/to/frame1.jpg",
                    "file:///path/to/frame2.jpg",
                    "file:///path/to/frame3.jpg",
                    "file:///path/to/frame4.jpg",
                ],
                "fps": 1.0,
            },
            {"type": "text", "text": "Describe this video."},
        ],
    }
]
# Messages containing a video and a text query
messages = [
    {
        "role": "user",
        "content": [
            {
                "type": "video",
                "video": "file:///path/to/video1.mp4",
                "max_pixels": 360 * 420,
                "fps": 1.0,
            },
            {"type": "text", "text": "Describe this video."},
        ],
    }
]

# Preparation for inference
text = processor.apply_chat_template(
    messages, tokenize=False, add_generation_prompt=True
)
image_inputs, video_inputs = process_vision_info(messages)
inputs = processor(
    text=[text],
    images=image_inputs,
    videos=video_inputs,
    padding=True,
    return_tensors="pt",
)
inputs = inputs.to("cuda")

# Inference
generated_ids = model.generate(**inputs, max_new_tokens=128)
generated_ids_trimmed = [
    out_ids[len(in_ids) :] for in_ids, out_ids in zip(inputs.input_ids, generated_ids)
]
output_text = processor.batch_decode(
    generated_ids_trimmed, skip_special_tokens=True, clean_up_tokenization_spaces=False
)
print(output_text)

# Sample messages for batch inference
messages1 = [
    {
        "role": "user",
        "content": [
            {"type": "image", "image": "file:///path/to/image1.jpg"},
            {"type": "image", "image": "file:///path/to/image2.jpg"},
            {"type": "text", "text": "What are the common elements in these pictures?"},
        ],
    }
]
messages2 = [
    {"role": "system", "content": "You are a helpful assistant."},
    {"role": "user", "content": "Who are you?"},
]
# Combine messages for batch processing
messages = [messages1, messages1]

# Preparation for batch inference
texts = [
    processor.apply_chat_template(msg, tokenize=False, add_generation_prompt=True)
    for msg in messages
]
image_inputs, video_inputs = process_vision_info(messages)
inputs = processor(
    text=texts,
    images=image_inputs,
    videos=video_inputs,
    padding=True,
    return_tensors="pt",
)
inputs = inputs.to("cuda")

# Batch Inference
generated_ids = model.generate(**inputs, max_new_tokens=128)
generated_ids_trimmed = [
    out_ids[len(in_ids) :] for in_ids, out_ids in zip(inputs.input_ids, generated_ids)
]
output_texts = processor.batch_decode(
    generated_ids_trimmed, skip_special_tokens=True, clean_up_tokenization_spaces=False
)
print(output_texts)

その他の使用方法

入力画像には、ローカルファイル、base64、URLをサポートしています。動画については、現在はローカルファイルのみサポートしています。

# You can directly insert a local file path, a URL, or a base64-encoded image into the position where you want in the text.
## Local file path
messages = [
    {
        "role": "user",
        "content": [
            {"type": "image", "image": "file:///path/to/your/image.jpg"},
            {"type": "text", "text": "Describe this image."},
        ],
    }
]
## Image URL
messages = [
    {
        "role": "user",
        "content": [
            {"type": "image", "image": "http://path/to/your/image.jpg"},
            {"type": "text", "text": "Describe this image."},
        ],
    }
]
## Base64 encoded image
messages = [
    {
        "role": "user",
        "content": [
            {"type": "image", "image": "data:image;base64,/9j/..."},
            {"type": "text", "text": "Describe this image."},
        ],
    }
]

性能向上のための画像解像度

モデルは広範囲の解像度入力をサポートしています。デフォルトでは、入力にネイティブ解像度を使用しますが、より高い解像度は計算量を増やす代わりに性能を向上させることができます。ユーザーは、最小および最大ピクセル数を設定することで、速度とメモリ使用量のバランスを取ることができます。

min_pixels = 256 * 28 * 28
max_pixels = 1280 * 28 * 28
processor = AutoProcessor.from_pretrained(
    "Qwen/Qwen2-VL-72B-Instruct", min_pixels=min_pixels, max_pixels=max_pixels
)

また、モデルへの画像サイズ入力を細かく制御するための2つの方法を提供しています。

1. min_pixelsとmax_pixelsを定義する：画像は、min_pixelsとmax_pixelsの範囲内でアスペクト比を維持したままリサイズされます。
2. 正確な寸法を指定する：resized_heightとresized_widthを直接設定します。これらの値は、最も近い28の倍数に丸められます。

# min_pixels and max_pixels
messages = [
    {
        "role": "user",
        "content": [
            {
                "type": "image",
                "image": "file:///path/to/your/image.jpg",
                "resized_height": 280,
                "resized_width": 420,
            },
            {"type": "text", "text": "Describe this image."},
        ],
    }
]
# resized_height and resized_width
messages = [
    {
        "role": "user",
        "content": [
            {
                "type": "image",
                "image": "file:///path/to/your/image.jpg",
                "min_pixels": 50176,
                "max_pixels": 50176,
            },
            {"type": "text", "text": "Describe this image."},
        ],
    }
]

✨ 主な機能

Qwen2-VLの新機能

主要な機能強化

• 様々な解像度と比率の画像の最先端の理解能力：Qwen2-VLは、MathVista、DocVQA、RealWorldQA、MTVQAなどの視覚理解ベンチマークで最先端の性能を達成しています。
• 20分以上の動画の理解能力：Qwen2-VLは、20分以上の動画を理解し、高品質な動画ベースの質問応答、対話、コンテンツ作成などを行うことができます。
• 携帯電話やロボットなどのデバイスを操作するエージェント機能：複雑な推論と意思決定能力を備えたQwen2-VLは、携帯電話やロボットなどのデバイスと統合し、視覚環境とテキスト命令に基づいて自動操作を行うことができます。
• 多言語サポート：グローバルなユーザーに対応するため、Qwen2-VLは英語と中国語に加えて、画像内の様々な言語のテキストの理解をサポートしています。これには、ほとんどのヨーロッパ言語、日本語、韓国語、アラビア語、ベトナム語などが含まれます。

モデルアーキテクチャの更新

• ナイーブな動的解像度：以前とは異なり、Qwen2-VLは任意の画像解像度を処理することができ、それを動的な数のビジュアルトークンにマッピングし、より人間に近い視覚処理体験を提供します。

• マルチモーダル回転位置埋め込み（M-ROPE）：位置埋め込みを部分に分解して、1次元のテキスト、2次元のビジュアル、および3次元の動画の位置情報を捉え、マルチモーダル処理能力を強化します。

20億、80億、720億のパラメータを持つ3つのモデルがあります。このリポジトリには、命令微調整された720億パラメータのQwen2-VLモデルが含まれています。詳細については、ブログとGitHubをご覧ください。

📚 ドキュメント

画像ベンチマーク

動画ベンチマーク

エージェントベンチマーク

SR、GC、TM、EMは、それぞれ成功率、目標条件成功率、タイプ一致率、正確一致率の略です。ALFREDはSAM^[6]によってサポートされています。

1. Qwenチームによる自作関数呼び出しベンチマーク
2. Fine-Tuning Large Vision-Language Models as Decision-Making Agents via Reinforcement Learning
3. Android in the Zoo: Chain-of-Action-Thought for GUI Agents
4. ThinkBot: Embodied Instruction Following with Thought Chain Reasoning
5. MapGPT: Map-Guided Prompting with Adaptive Path Planning for Vision-and-Language Navigation
6. Segment Anything.

多言語ベンチマーク

🔧 技術詳細

Qwen2-VLのコードは最新のHugging face transformersに含まれています。以下のコマンドでソースからビルドすることをおすすめします。そうしないと、以下のエラーが発生する可能性があります。

KeyError: 'qwen2_vl'

pip install git+https://github.com/huggingface/transformers

📄 ライセンス

このプロジェクトは、tongyi-qianwenライセンスの下で提供されています。

制限事項

Qwen2-VLは幅広い視覚タスクに適用可能ですが、その制限事項を理解することも同様に重要です。以下はいくつかの既知の制限です。

1. 音声サポートの欠如：現在のモデルは、動画内の音声情報を理解しません。
2. データのタイムリネス：画像データセットは2023年6月まで更新されており、この日以降の情報はカバーされていない可能性があります。
3. 個人および知的財産（IP）の認識制限：モデルが特定の個人またはIPを認識する能力は限られており、すべての有名人やブランドを網羅できない可能性があります。
4. 複雑な命令に対する能力制限：複雑な多段階命令に直面した場合、モデルの理解と実行能力は向上が必要です。
5. 複雑なシーンでのカウント精度の不足：特に複雑なシーンでは、オブジェクトのカウント精度が高くなく、さらなる改善が必要です。
6. 空間推論能力の弱点：特に3D空間では、モデルのオブジェクトの位置関係の推論が不十分であり、オブジェクトの相対位置を正確に判断することが困難です。

これらの制限事項は、モデルの最適化と改善の継続的な方向性となっており、私たちはモデルの性能と適用範囲を継続的に向上させることに取り組んでいます。

引用

もし私たちの研究が役に立った場合は、以下のように引用していただけると幸いです。

@art