Tiny LLM

🚀 Tiny-LLM

このTiny-LLMは、たった1000万のパラメータを持つ小型の大規模言語モデル（LLM）です。これはおそらく最も小規模なLLMの一つであり、しかも機能的にも十分に動作します。

🚀 クイックスタート

これらのモデルを使い始めるには、Hugging Faceのtransformersライブラリを介して簡単に読み込むことができます。

基本的な使用法

import torch
from transformers import AutoModelForCausalLM, AutoTokenizer


MODEL_NAME = "arnir0/Tiny-LLM"

tokenizer = AutoTokenizer.from_pretrained(MODEL_NAME)
model = AutoModelForCausalLM.from_pretrained(MODEL_NAME)

def generate_text(prompt, model, tokenizer, max_length=512, temperature=1, top_k=50, top_p=0.95):
    inputs = tokenizer.encode(prompt, return_tensors="pt")

    outputs = model.generate(
        inputs,
        max_length=max_length,
        temperature=temperature,
        top_k=top_k,
        top_p=top_p,
        do_sample=True
    )


    generated_text = tokenizer.decode(outputs[0], skip_special_tokens=True)
    return generated_text

def main():
    # Define your prompt
    prompt = "According to all known laws of aviation, there is no way a bee should be able to fly."

    generated_text = generate_text(prompt, model, tokenizer)

    print(generated_text)

if __name__ == "__main__":
    main()

📚 ドキュメント

事前学習

Tiny-LLMは、Finewebデータセットの320億トークンで、コンテキスト長1024トークンで学習されました。

データセットとライセンス