T

Tinyllama 1.1B Intermediate Step 715k 1.5T

Developed by TinyLlama
TinyLlama是一个11亿参数的Llama模型,在3万亿标记上预训练,适用于计算和内存有限的场景。
Downloads 4,835
Release Time : 11/4/2023

Model Overview

TinyLlama项目旨在预训练一个11亿参数的Llama模型,适用于多种计算和内存要求有限的应用场景。

Model Features

紧凑模型
仅包含11亿参数,适用于计算和内存要求有限的多种应用场景。
兼容性
架构和分词器与Llama 2完全相同,可以在许多基于Llama构建的开源项目中即插即用。
高效训练
使用16块A100-40G GPU,在90天内完成3万亿标记的预训练。

Model Capabilities

文本生成
语言理解

Use Cases

自然语言处理
文本生成
生成连贯的文本内容
生成的文本具有较高的连贯性和逻辑性
AIbase
Empowering the Future, Your AI Solution Knowledge Base
© 2025AIbase