# 大语言模型优化

DeepSeek AI 公司的 DeepSeek R1 0528 模型的量化版本，基于优化的 Transformer 架构的自回归语言模型，可用于商业和非商业用途。

Gemma 3 27B Instruct 是由 Google 开发的大型语言模型，基于 neo4j/text2cypher-2025v1 数据集微调，专注于将自然语言转换为 Cypher 查询语言。

Mistral-NeMo-Minitron-8B-Base是一个基础的文本生成模型，通过对Mistral-NeMo 12B进行剪枝和蒸馏得到，适用于多种自然语言生成任务。

基于LLaMA-2-7B的激活稀疏化大语言模型，通过ProSparse方法实现高稀疏率(89.32%)且保持原始性能

BLOOM 是一个开源的多语言大语言模型，由 BigScience 项目开发，旨在提供高效的文本生成能力。