Gpt J 6B Vietnamese News

🚀 ベトナム語ニュース用GPT - J 6B

このモデルは、ベトナム語のニュースに特化したGPT - J 6Bモデルです。自然言語処理タスクに役立ちます。

🚀 クイックスタート

詳細情報

詳細は近日公開予定です。

連絡先

詳細な情報が必要な場合は、以下のメールアドレスまでご連絡ください。

• anhduongng.1001@gmail.com (Dương)
• imthanhlv@gmail.com (Thành)
• nguyenvulebinh@gmail.com (Bình)

💻 使用例

基本的な使用法

from transformers import AutoTokenizer, AutoModelForCausalLM

tokenizer = AutoTokenizer.from_pretrained("VietAI/gpt-j-6B-vietnamese-news")
model = AutoModelForCausalLM.from_pretrained("VietAI/gpt-j-6B-vietnamese-news", low_cpu_mem_usage=True)

device = torch.device("cuda" if torch.cuda.is_available() else "cpu") 
model.to(device)

prompt = "Tiềm năng của trí tuệ nhân tạo" # your input sentence
input_ids = tokenizer(prompt, return_tensors="pt")['input_ids'].to(device)

gen_tokens = model.generate(
        input_ids,
        max_length=max_length,
        do_sample=True,
        temperature=0.9,
        top_k=20,
    )

gen_text = tokenizer.batch_decode(gen_tokens)[0]
print(gen_text)