Comet Atomic En

🚀 テキスト生成モデル

このプロジェクトは、テキスト生成タスクに特化したモデルを用いて、与えられたイベントに対する様々な質問に回答を生成するものです。具体的には、イベントの前提条件、結果、動機、感情などに関する質問に対応します。

🚀 クイックスタート

以下の手順で、モデルを使用してイベントに関する質問の回答を生成できます。

from transformers import T5ForConditionalGeneration
from transformers import T5TokenizerFast as T5Tokenizer
import pandas as pd
model = "svjack/comet-atomic-en"
device = "cpu"
#device = "cuda:0"
tokenizer = T5Tokenizer.from_pretrained(model)
model = T5ForConditionalGeneration.from_pretrained(model).to(device).eval()

NEED_PREFIX = 'What are the necessary preconditions for the next event?'
EFFECT_PREFIX = 'What could happen after the next event?'
INTENT_PREFIX = 'What is the motivation for the next event?'
REACT_PREFIX = 'What are your feelings after the following event?'


event = "X had a big meal."
for prefix in [NEED_PREFIX, EFFECT_PREFIX, INTENT_PREFIX, REACT_PREFIX]:
    prompt = "{}{}".format(prefix, event)
    encode = tokenizer(prompt, return_tensors='pt').to(device)
    answer = model.generate(encode.input_ids,
                           max_length = 128,
        num_beams=2,
        top_p = 0.95,
        top_k = 50,
        repetition_penalty = 2.5,
        length_penalty=1.0,
        early_stopping=True,
                           )[0]
    decoded = tokenizer.decode(answer, skip_special_tokens=True)
    print(prompt, "\n---Answer：", decoded, "----\n")

基本的な使用法

上記のコードでは、T5ForConditionalGeneration モデルと T5TokenizerFast トークナイザーを使用して、イベントに関する質問に回答を生成しています。具体的には、以下の手順で動作します。

1. モデルとトークナイザーを読み込む。
2. 質問のプレフィックスとイベントを組み合わせてプロンプトを作成する。
3. プロンプトをトークナイズしてモデルに入力する。
4. モデルから生成された回答をデコードして表示する。

実行結果の例

What are the necessary preconditions for the next event?X had a big meal. 
---Answer： X goes shopping at the supermarket ----

What could happen after the next event?X had a big meal. 
---Answer： X gets fat ----

What is the motivation for the next event?X had a big meal. 
---Answer： X wants to eat ----

What are your feelings after the following event?X had a big meal. 
---Answer： X tastes good ----

📚 ドキュメント

モデル情報