# 軽量級Llama

MicroLlamaは個人開発者keeeeenwが500ドルの予算内で事前学習した3億パラメータのLlamaモデルで、英語テキスト生成タスクに特化しています。

TinyLlamaは11億パラメータの小型言語モデルで、Llama 2と同じアーキテクチャとトークナイザーを採用しており、リソースが限られたアプリケーションシナリオに適しています。

TinyLlamaは1.1BパラメータのLlamaモデルで、3兆トークンを使用して事前学習されており、コンパクトで効率的なテキスト生成能力を提供します。

TinyLlamaは1.1Bパラメータの小型Llamaモデルで、3兆トークンで事前学習され、リソースが限られた環境向けに設計されています。

小さなラマは11億パラメータのLlamaモデルで、3兆トークンの事前学習を経ており、計算リソースやメモリが制限された環境に適しています。

TinyLlamaは1.1BパラメータのLlamaモデルで、3兆トークンの事前学習を計画しており、最適化により16台のA100-40G GPUで90日以内に学習を完了できます。