Ao Karasu 72B

🚀 transformers

このライブラリは、自然言語処理や画像処理などの様々なタスクに使用できる便利なツールを提供します。具体的には、事前学習済みモデルの利用や、独自のモデルのトレーニングなどが可能です。

🚀 クイックスタート

A100の4枚の環境がおすすめです。

Huggingface

from transformers import AutoTokenizer, AutoModelForCausalLM, pipeline
import torch

tokenizer = AutoTokenizer.from_pretrained("lightblue/ao-karasu-72B")
model = AutoModelForCausalLM.from_pretrained("lightblue/ao-karasu-72B", device_map="auto")

pipe = pipeline("text-generation", model=model, tokenizer=tokenizer)

messages = [{"role": "system", "content": "あなたはAIアシスタントです。"}]
messages.append({"role": "user", "content": "イギリスの首相は誰ですか？"})

prompt = tokenizer.apply_chat_template(conversation=messages, add_generation_prompt=True, tokenize=False)

pipe(prompt, max_new_tokens=100, do_sample=False, temperature=0.0, return_full_text=False)

vLLM

from vllm import LLM, SamplingParams

sampling_params = SamplingParams(temperature=0.0, max_tokens=100)
llm = LLM(model="lightblue/aokarasu-72B", tensor_parallel_size=4)

messages = [{"role": "system", "content": "あなたはAIアシスタントです。"}]
messages.append({"role": "user", "content": "イギリスの首相は誰ですか？"})
prompt = llm.llm_engine.tokenizer.tokenizer.apply_chat_template(conversation=messages, add_generation_prompt=True, tokenize=False)
prompts = [prompt]

outputs = llm.generate(prompts, sampling_params)
for output in outputs:
    prompt = output.prompt
    generated_text = output.outputs[0].text
    print(f"Prompt: {prompt!r}, Generated text: {generated_text!r}")

📚 ドキュメント

学習詳細

• English dev blog
• 日本語ブログ

学習データ

次のようなデータセットから約2000万文字のサンプルを使用しています。このデータセットは合計で11億文字以上で構成されています。

• WikipediaベースのQAから約4億5000万文字 (Qarasuと同じ)
• 技術ブログから約2億文字 (新規)
• 日本語のQAサイトの回答から約2億文字 (新規)
• LLMが生成したプロンプトと応答から約1億文字 (Qarasuと同じ)
• ニュース記事から約7000万文字 (新規)

学習スケジュール

A100 (80GB) GPUで約1日間のトレーニングを行っています。