Kyro N1.1 7B Pytorch

🚀 Kyro-n1.1：更智能、更敏锐、更强大

Kyro-n1.1是Kyro-n1的增强版本，旨在提供更出色的推理能力、更好的理解能力和更高的响应准确性。该模型基于Qwen2.5 - 7B - Instruct构建，利用先进的微调技术，提升了分析复杂查询、提供结构良好的响应以及进行更细致对话的能力。

🚀 快速开始

安装说明

Kyro-n1.1（Qwen2.5）的代码已集成到最新的Hugging face transformers库中，建议使用最新版本的transformers。

如果使用transformers<4.37.0，会遇到以下错误：

KeyError: 'qwen2'

代码示例

from transformers import AutoModelForCausalLM, AutoTokenizer
model_name = "open-neo/Kyro-n1.1-7B"
model = AutoModelForCausalLM.from_pretrained(
    model_name,
    torch_dtype="auto",
    device_map="auto"
)
tokenizer = AutoTokenizer.from_pretrained(model_name)
prompt = "What do you think about CRISPR and its effect on the future of humanity?"
messages = [
    {"role": "user", "content": prompt}
]
text = tokenizer.apply_chat_template(
    messages,
    tokenize=False,
    add_generation_prompt=True
)
model_inputs = tokenizer([text], return_tensors="pt").to(model.device)
generated_ids = model.generate(
    **model_inputs,
    max_new_tokens=2048
)
generated_ids = [
    output_ids[len(input_ids):] for input_ids, output_ids in zip(model_inputs.input_ids, generated_ids)
]
response = tokenizer.batch_decode(generated_ids, skip_special_tokens=True)[0]

✨ 主要特性

相较于Kyro - n1的关键改进

• 增强的推理能力：Kyro - n1.1展现出更强的逻辑思维能力，使其在需要深度分析的任务中更加可靠。
• 更准确的响应：优化的数据集筛选和改进的微调方法确保了更好的事实一致性。
• 更广泛的上下文理解：通过改进上下文保留能力，Kyro - n1.1能够更连贯地处理多轮对话。
• 为开源协作优化：作为Open - Neo计划的一部分，Kyro - n1.1旨在成为一个透明、可访问且由社区驱动的模型。

选择Kyro - n1.1的原因

• 非常适合研发：无论你是在探索AI推理基准，还是在改进自己的项目，Kyro - n1.1都能提供出色的性能。
• 适用于各种用例：从一般问答到代码辅助和创意写作，该模型在不同应用场景中都能很好地适应。
• 高效且可扩展：设计上具有计算效率，Kyro - n1.1在保持可管理的资源需求的同时，提供强大的性能。
• 完全开源：作为Open - Neo生态系统的一部分，Kyro - n1.1可免费用于修改并集成到各种工作流程中。

🔧 技术细节

📄 许可证

本项目采用kyro许可证，详情请见LICENSE.md。

📚 详细文档

引用说明

如果你觉得我们的工作有帮助，请引用以下内容：

@misc{qwen2.5,
    title = {Qwen2.5: A Party of Foundation Models},
    url = {https://qwenlm.github.io/blog/qwen2.5/},
    author = {Qwen Team},
    month = {September},
    year = {2024}
}
@article{qwen2,
      title={Qwen2 Technical Report}, 
      author={An Yang and Baosong Yang and Binyuan Hui and Bo Zheng and Bowen Yu and Chang Zhou and Chengpeng Li and Chengyuan Li and Dayiheng Liu and Fei Huang and Guanting Dong and Haoran Wei and Huan Lin and Jialong Tang and Jialin Wang and Jian Yang and Jianhong Tu and Jianwei Zhang and Jianxin Ma and Jin Xu and Jingren Zhou and Jinze Bai and Jinzheng He and Junyang Lin and Kai Dang and Keming Lu and Keqin Chen and Kexin Yang and Mei Li and Mingfeng Xue and Na Ni and Pei Zhang and Peng Wang and Ru Peng and Rui Men and Ruize Gao and Runji Lin and Shijie Wang and Shuai Bai and Sinan Tan and Tianhang Zhu and Tianhao Li and Tianyu Liu and Wenbin Ge and Xiaodong Deng and Xiaohuan Zhou and Xingzhang Ren and Xinyu Zhang and Xipin Wei and Xuancheng Ren and Yang Fan and Yang Yao and Yichang Zhang and Yu Wan and Yunfei Chu and Yuqiong Liu and Zeyu Cui and Zhenru Zhang and Zhihao Fan},
      journal={arXiv preprint arXiv:2407.10671},
      year={2024}
}
@misc{kyro-n1.1,
      title={Kyro-n1: Smarter, Sharper, and More Capable }, 
      author={Open-Neo},
      howpublished={https://huggingface.co/collections/open-neo/kyro-n1-67ab2e7bbc76a9aab3030c21},
      year={2025}
}

参与贡献

Kyro - n1.1是一个由社区驱动的项目，欢迎大家贡献力量！无论是微调、测试还是提供反馈，你的参与都将有助于塑造该模型的未来。加入Open - Neo社区，一起改进Kyro - n1.1吧！