Tiny Llama Miniguanaco 1.5T

🚀 TinyLlama 1.5T

TinyLlama 1.5Tは質問に回答するように学習されたモデルです。このモデルは、テキスト生成タスクに適しており、簡単な形式で質問に対する回答を生成します。

🚀 クイックスタート

モデル情報

データ形式

f"{'prompt'}\n{'completion'}\n<END>"

特別なフォーマットは必要ありません。質問を入力し、改行して回答を始めます。

💻 使用例

基本的な使用法

from transformers import pipeline, AutoTokenizer, AutoModelForCausalLM

pipe = pipeline("text-generation", model="Corianas/tiny-llama-miniguanaco-1.5T")# Load model directly

tokenizer = AutoTokenizer.from_pretrained("Corianas/tiny-llama-miniguanaco-1.5T")
model = AutoModelForCausalLM.from_pretrained("Corianas/tiny-llama-miniguanaco-1.5T")

# Run text generation pipeline with our next model
prompt = "What is a large language model?"
pipe = pipeline(task="text-generation", model=model, tokenizer=tokenizer, max_length=500)
result = pipe(f"<s>{prompt}")
print(result[0]['generated_text'])

結果には回答が含まれ、新しい行で <END> で終わります。