Emu3 VisionTokenizer

🚀 Emu3：僅需下一令牌預測

Emu3 是一套全新的、僅通過 下一令牌預測 訓練的最先進多模態模型！通過將圖像、文本和視頻標記到離散空間，我們在多模態序列的混合數據上從頭開始訓練了一個單一的變換器模型。

項目鏈接

• 項目主頁
• 論文
• 🤗HF 模型
• GitHub
• 演示

模型架構圖

🚀 快速開始

Emu3 在生成和感知方面均表現出色

Emu3 在生成和感知任務中均優於多個成熟的特定任務模型，超越了 SDXL、LLaVA - 1.6 和 OpenSora - 1.2 等旗艦開源模型，同時無需擴散或組合架構。

對比圖

✨ 主要特性

• 高質量圖像生成：Emu3 能夠通過簡單地預測下一個視覺令牌，根據文本輸入生成高質量圖像。該模型自然支持靈活的分辨率和風格。
• 強大的視覺 - 語言理解能力：Emu3 展現出強大的視覺 - 語言理解能力，能夠感知現實世界並提供連貫的文本響應。值得注意的是，這種能力的實現不依賴於 CLIP 和預訓練的大語言模型。
• 視頻生成：與 Sora 中的視頻擴散模型不同，Emu3 通過預測視頻序列中的下一個令牌來自然地生成視頻。在給定上下文視頻的情況下，Emu3 還可以自然地擴展視頻並預測接下來會發生什麼。

💻 使用示例

基礎用法

import os
import os.path as osp

from PIL import Image
import torch
from transformers import AutoModel, AutoImageProcessor

MODEL_HUB = "BAAI/Emu3-VisionTokenizer"

model = AutoModel.from_pretrained(MODEL_HUB, trust_remote_code=True).eval().cuda()
processor = AutoImageProcessor.from_pretrained(MODEL_HUB, trust_remote_code=True)

# TODO: you need to modify the path here
VIDEO_FRAMES_PATH = "YOUR_VIDEO_FRAMES_PATH"

video = os.listdir(VIDEO_FRAMES_PATH)
video.sort()
video = [Image.open(osp.join(VIDEO_FRAMES_PATH, v)) for v in video]

images = processor(video, return_tensors="pt")["pixel_values"]
images = images.unsqueeze(0).cuda()

# image autoencode
image = images[:, 0]
print(image.shape)
with torch.no_grad():
    # encode
    codes = model.encode(image)
    # decode
    recon = model.decode(codes)

recon = recon.view(-1, *recon.shape[2:])
recon_image = processor.postprocess(recon)["pixel_values"][0]
recon_image.save("recon_image.png")

# video autoencode
images = images.view(
    -1,
    model.config.temporal_downsample_factor,
    *images.shape[2:],
)

print(images.shape)
with torch.no_grad():
    # encode
    codes = model.encode(images)
    # decode
    recon = model.decode(codes)

recon = recon.view(-1, *recon.shape[2:])
recon_images = processor.postprocess(recon)["pixel_values"]
for idx, im in enumerate(recon_images):
    im.save(f"recon_video_{idx}.png")

📄 許可證

本項目採用 Apache - 2.0 許可證。