Zhilu 13B Instruct

🚀 ZhiLu-13B-Instruct

ZhiLu是一个基于中文Alpaca2-13B进行二次训练的金融大模型。我们使用大量中英文语料进行增量预训练，并使用高质量指令数据进行对齐，旨在保持通用能力的同时，显著提升金融领域的能力。具体细节可参考：ZhiLu-github仓库

🚀 快速开始

本仓库提供ZhiLu的完整模型，使用该模型，用户无需再下载LoRA模块。

快速使用示例

import torch
from transformers import LlamaForCausalLM, LlamaTokenizer
model_name_or_path = ""
tokenizer = LlamaTokenizer.from_pretrained(model_name_or_path, use_fast=False, legacy=True)
model = LlamaForCausalLM.from_pretrained(model_name_or_path, torch_dtype=torch.bfloat16,device_map="auto")
inputs = tokenizer("什么是A股？", return_tensors="pt").to("cuda")
outputs = model.generate(**inputs, max_new_tokens=64, repetition_penalty=1.1)
outputs = tokenizer.decode(outputs.cpu()[0][len(inputs.input_ids[0]):], skip_special_tokens=True)
print(outputs)

✨ 主要特性

• 基于中文Alpaca2-13B进行二次训练，结合大量中英文语料增量预训练和高质量指令数据对齐。
• 目标是在保持通用能力的同时，显著提升金融领域能力。
• 本仓库提供完整模型，无需额外下载LoRA模块。

📦 安装指南

文档未提及具体安装步骤，暂不提供。

💻 使用示例

基础用法

import torch
from transformers import LlamaForCausalLM, LlamaTokenizer
model_name_or_path = ""
tokenizer = LlamaTokenizer.from_pretrained(model_name_or_path, use_fast=False, legacy=True)
model = LlamaForCausalLM.from_pretrained(model_name_or_path, torch_dtype=torch.bfloat16,device_map="auto")
inputs = tokenizer("什么是A股？", return_tensors="pt").to("cuda")
outputs = model.generate(**inputs, max_new_tokens=64, repetition_penalty=1.1)
outputs = tokenizer.decode(outputs.cpu()[0][len(inputs.input_ids[0]):], skip_special_tokens=True)
print(outputs)

📚 详细文档

数据质量

我们收集了各类数据，包括上市公司公告、财经新闻、上市公司年度报告、新闻、金融资讯、社区问答、维基百科等高质量数据。模型训练的总token数为14.69B，通用语料与金融预料比例约为2:1，中英配比约为2:1。

模型训练

ZhiLu使用LoRA进行高效训练（含emb/lm-head），使用FlashAttention - 2技术进行加速训练，公布了Full Model（本仓库）和LoRA模块

📄 许可证

本项目采用Apache-2.0许可证。