Tiny Llama Miniguanaco 1.5T

🚀 TinyLlama-1.1B 文本生成模型

TinyLlama-1.1B是一個經過訓練的文本生成模型，能夠回答各類問題，為用戶提供準確且高效的文本輸出。

🚀 快速開始

模型信息

輸入格式

模型的輸入無需特殊格式，只需輸入問題，然後換行開始輸出答案，格式如下：

f"{'prompt'}\n{'completion'}\n<END>"

代碼示例

基礎用法

from transformers import pipeline, AutoTokenizer, AutoModelForCausalLM

pipe = pipeline("text-generation", model="Corianas/tiny-llama-miniguanaco-1.5T")# Load model directly

tokenizer = AutoTokenizer.from_pretrained("Corianas/tiny-llama-miniguanaco-1.5T")
model = AutoModelForCausalLM.from_pretrained("Corianas/tiny-llama-miniguanaco-1.5T")

# Run text generation pipeline with our next model
prompt = "What is a large language model?"
pipe = pipeline(task="text-generation", model=model, tokenizer=tokenizer, max_length=500)
result = pipe(f"<s>{prompt}")
print(result[0]['generated_text'])

運行上述代碼後，輸出結果將包含答案，且以新行的 <END> 結尾。