Emu3 Stage1

🚀 Emu3: Next-Token Prediction is All You Need

Emu3という、次のトークン予測のみを用いて学習された最先端のマルチモーダルモデルのセットをご紹介します！画像、テキスト、ビデオを離散空間にトークン化することで、マルチモーダルシーケンスの混合データで単一のトランスフォーマーをゼロから学習させます。

🚀 クイックスタート

from PIL import Image
from transformers import AutoTokenizer, AutoModel, AutoImageProcessor, AutoModelForCausalLM
from transformers.generation.configuration_utils import GenerationConfig
from transformers.generation import LogitsProcessorList, PrefixConstrainedLogitsProcessor, UnbatchedClassifierFreeGuidanceLogitsProcessor
import torch

import sys
sys.path.append(PATH_TO_BAAI_Emu3-Stage1_MODEL)
from processing_emu3 import Emu3Processor

# model path
EMU_HUB = "BAAI/Emu3-Stage1"
VQ_HUB = "BAAI/Emu3-VisionTokenizer"

# prepare model and processor
model = AutoModelForCausalLM.from_pretrained(
    EMU_HUB,
    device_map="cuda:0",
    torch_dtype=torch.bfloat16,
    attn_implementation="flash_attention_2",
    trust_remote_code=True,
)

tokenizer = AutoTokenizer.from_pretrained(EMU_HUB, trust_remote_code=True, padding_side="left")
image_processor = AutoImageProcessor.from_pretrained(VQ_HUB, trust_remote_code=True)
image_tokenizer = AutoModel.from_pretrained(VQ_HUB, device_map="cuda:0", trust_remote_code=True).eval()
processor = Emu3Processor(image_processor, image_tokenizer, tokenizer, chat_template="{image_prompt}{text_prompt}")

# Image Generation
# prepare input
POSITIVE_PROMPT = " masterpiece, film grained, best quality."
NEGATIVE_PROMPT = "lowres, bad anatomy, bad hands, text, error, missing fingers, extra digit, fewer digits, cropped, worst quality, low quality, normal quality, jpeg artifacts, signature, watermark, username, blurry."

classifier_free_guidance = 3.0
prompt = "a portrait of young girl."
prompt += POSITIVE_PROMPT

kwargs = dict(
    mode='G',
    ratio="1:1",
    image_area=model.config.image_area,
    return_tensors="pt",
    padding="longest",
)
pos_inputs = processor(text=prompt, **kwargs)
neg_inputs = processor(text=NEGATIVE_PROMPT, **kwargs)

# prepare hyper parameters
GENERATION_CONFIG = GenerationConfig(
    use_cache=True,
    eos_token_id=model.config.eos_token_id,
    pad_token_id=model.config.pad_token_id,
    max_new_tokens=40960,
    do_sample=True,
    top_k=2048,
)

h = pos_inputs.image_size[:, 0]
w = pos_inputs.image_size[:, 1]
constrained_fn = processor.build_prefix_constrained_fn(h, w)
logits_processor = LogitsProcessorList([
    UnbatchedClassifierFreeGuidanceLogitsProcessor(
        classifier_free_guidance,
        model,
        unconditional_ids=neg_inputs.input_ids.to("cuda:0"),
    ),
    PrefixConstrainedLogitsProcessor(
        constrained_fn ,
        num_beams=1,
    ),
])

# generate
outputs = model.generate(
    pos_inputs.input_ids.to("cuda:0"),
    GENERATION_CONFIG,
    logits_processor=logits_processor,
    attention_mask=pos_inputs.attention_mask.to("cuda:0"),
)

mm_list = processor.decode(outputs[0])
for idx, im in enumerate(mm_list):
    if not isinstance(im, Image.Image):
        continue
    im.save(f"result_{idx}.png")


# Multimodal Understanding
text = "The image depicts "
image = Image.open("assets/demo.png")

inputs = processor(
    text=text,
    image=image,
    mode='U',
    padding="longest",
    return_tensors="pt",
)
GENERATION_CONFIG = GenerationConfig(
    pad_token_id=tokenizer.pad_token_id,
    bos_token_id=tokenizer.bos_token_id,
    eos_token_id=tokenizer.eos_token_id,
    max_new_tokens=1024,
)

 outputs = model.generate(
     inputs.input_ids.to("cuda:0"),
     GENERATION_CONFIG,
     attention_mask=inputs.attention_mask.to("cuda:0"),
 )
 outputs = outputs[:, inputs.input_ids.shape[-1]:]
 answers = processor.batch_decode(outputs, skip_special_tokens=True)
 for ans in answers:
     print(ans)

✨ 主な機能

Emu3は生成と知覚の両面で優れています

Emu3は、生成と知覚の両方のタスクにおいて、いくつかの定評のあるタスク固有のモデルを上回り、SDXL、LLaVA - 1.6、OpenSora - 1.2などの主要なオープンモデルを超えています。また、拡散や合成アーキテクチャを必要としません。

特長

• Emu3は、単に次のビジョントークンを予測することで、テキスト入力に従って高品質な画像を生成することができます。このモデルは自然に柔軟な解像度とスタイルをサポートしています。
• Emu3は、物理世界を理解する強力なビジョン言語理解能力を示し、首尾一貫したテキスト応答を提供します。特に、この能力はCLIPや事前学習されたLLMに依存することなく達成されています。
• Emu3は、ビデオシーケンスの次のトークンを予測することで、因果的にビデオを生成します。これはSoraのようなビデオ拡散モデルとは異なります。コンテキストにビデオがある場合、Emu3は自然にビデオを拡張し、次に何が起こるかを予測することもできます。

📚 ドキュメント

モデル情報

Emu3 - Stage1モデルは、Emu3の事前学習プロセスの最初の段階の事前学習済みの重みです。Emu3の事前学習プロセスは2段階で行われます。最初の段階では、ビデオデータを使用せずに、テキストと画像データに対してコンテキスト長5120でゼロから学習を開始します。このモデルは画像キャプショニングをサポートし、解像度512x512の画像を生成することができます。さらなる画像生成と知覚タスクのための命令微調整には、学習スクリプトを使用することができます。

📄 ライセンス