Chinese Llama 2 1.3b

🚀 中文LLaMA-2-1.3B

这是完整的中文LLaMA-2-1.3B模型，可直接加载进行推理和全参数训练。

相关模型👇

• 长上下文基础模型（16K）
  • 中文LLaMA-2-7B-16K（完整模型）
  • 中文LLaMA-2-LoRA-7B-16K（LoRA模型）
  • 中文LLaMA-2-13B-16K（完整模型）
  • 中文LLaMA-2-LoRA-13B-16K（LoRA模型）
• 长上下文指令/对话模型
  • 中文Alpaca-2-7B-16K（完整模型）
  • 中文Alpaca-2-LoRA-7B-16K（LoRA模型）
  • 中文Alpaca-2-13B-16K（完整模型）
  • 中文Alpaca-2-LoRA-13B-16K（LoRA模型）
• 基础模型
  • 中文LLaMA-2-7B（完整模型）
  • 中文LLaMA-2-LoRA-7B（LoRA模型）
  • 中文LLaMA-2-13B（完整模型）
  • 中文LLaMA-2-LoRA-13B（LoRA模型）
• 指令/对话模型
  • 中文Alpaca-2-7B（完整模型）
  • 中文Alpaca-2-LoRA-7B（LoRA模型）
  • 中文Alpaca-2-13B（完整模型）
  • 中文Alpaca-2-LoRA-13B（LoRA模型）

✨ 主要特性

本项目基于Meta发布的Llama-2，是中文LLaMA & Alpaca大语言模型项目的第二代。我们开源了中文LLaMA-2（基础模型）和Alpaca-2（指令跟随模型）。这些模型在原Llama-2的基础上进行了中文词汇的扩展和优化。我们使用大规模中文数据进行增量预训练，进一步提升了对中文语言的基础语义理解，与第一代模型相比性能有显著提升。相关模型支持4K上下文，使用NTK方法可扩展至18K+。

本项目的主要内容包括：

• 🚀 在Llama-2基础上新增扩展中文词汇，开源中文LLaMA-2和Alpaca-2大语言模型。
• 🚀 开源预训练和指令微调（SFT）脚本，方便用户在自己的数据上进一步微调。
• 🚀 可在个人电脑的CPU/GPU上快速部署和体验量化大语言模型。
• 🚀 支持🤗transformers、llama.cpp、text-generation-webui、LangChain、vLLM等LLaMA生态系统。

详细信息请参考https://github.com/ymcui/Chinese-LLaMA-Alpaca-2/。

📄 许可证

本项目采用Apache-2.0许可证。