Kyro N1.1 7B

🚀 Kyro-n1.1：更智能、更敏锐、更强大

Kyro-n1.1 是 Kyro-n1 的增强迭代版本，旨在提供更出色的推理能力、更优秀的理解能力和更高的回答准确率。该模型基于 Qwen2.5 - 7B - Instruct 构建，利用先进的微调技术，提升了分析复杂查询、提供结构良好的回答以及进行更细致对话的能力。

🚀 快速开始

Kyro-n1.1（Qwen2.5）的代码已集成在最新的 Hugging face transformers 库中，建议您使用最新版本的 transformers。

使用 transformers<4.37.0 时，您会遇到以下错误：

KeyError: 'qwen2'

基础用法

from transformers import AutoModelForCausalLM, AutoTokenizer
model_name = "open-neo/Kyro-n1.1-7B"
model = AutoModelForCausalLM.from_pretrained(
    model_name,
    torch_dtype="auto",
    device_map="auto"
)
tokenizer = AutoTokenizer.from_pretrained(model_name)
prompt = "What do you think about CRISPR and its effect on the future of humanity?"
messages = [
    {"role": "user", "content": prompt}
]
text = tokenizer.apply_chat_template(
    messages,
    tokenize=False,
    add_generation_prompt=True
)
model_inputs = tokenizer([text], return_tensors="pt").to(model.device)
generated_ids = model.generate(
    **model_inputs,
    max_new_tokens=2048
)
generated_ids = [
    output_ids[len(input_ids):] for input_ids, output_ids in zip(model_inputs.input_ids, generated_ids)
]
response = tokenizer.batch_decode(generated_ids, skip_special_tokens=True)[0]

✨ 主要特性

相较于 Kyro - n1 的关键改进

• 增强的推理能力：Kyro - n1.1 展现出更强的逻辑思维能力，使其在需要深度分析的任务中更加可靠。
• 更准确的回答：经过优化的数据集筛选和改进的微调方法，确保了更好的事实一致性。
• 更广泛的上下文理解：通过改进上下文保留能力，Kyro - n1.1 能够更连贯地处理多轮对话。
• 为开源协作优化：作为 Open - Neo 计划的一部分，Kyro - n1.1 旨在成为一个透明、可访问且由社区驱动的模型。

选择 Kyro - n1.1 的原因

• 非常适合研发工作：无论您是在探索人工智能推理基准，还是在改进自己的项目，Kyro - n1.1 都具备出色的性能。
• 适用于各种用例：从一般问答到代码辅助和创意写作，该模型能够很好地适应不同的应用场景。
• 高效且可扩展：设计上具有计算效率，Kyro - n1.1 在保持合理资源需求的同时，提供强大的性能。
• 完全开源：作为 Open - Neo 生态系统的一部分，Kyro - n1.1 可免费用于修改并集成到各种工作流程中。

🔧 技术细节

📄 许可证

本项目采用 kyro 许可证。

📚 详细文档

引用

如果您认为我们的工作有帮助，请随意引用我们的成果。

@misc{qwen2.5,
    title = {Qwen2.5: A Party of Foundation Models},
    url = {https://qwenlm.github.io/blog/qwen2.5/},
    author = {Qwen Team},
    month = {September},
    year = {2024}
}
@article{qwen2,
      title={Qwen2 Technical Report}, 
      author={An Yang and Baosong Yang and Binyuan Hui and Bo Zheng and Bowen Yu and Chang Zhou and Chengpeng Li and Chengyuan Li and Dayiheng Liu and Fei Huang and Guanting Dong and Haoran Wei and Huan Lin and Jialong Tang and Jialin Wang and Jian Yang and Jianhong Tu and Jianwei Zhang and Jianxin Ma and Jin Xu and Jingren Zhou and Jinze Bai and Jinzheng He and Junyang Lin and Kai Dang and Keming Lu and Keqin Chen and Kexin Yang and Mei Li and Mingfeng Xue and Na Ni and Pei Zhang and Peng Wang and Ru Peng and Rui Men and Ruize Gao and Runji Lin and Shijie Wang and Shuai Bai and Sinan Tan and Tianhang Zhu and Tianhao Li and Tianyu Liu and Wenbin Ge and Xiaodong Deng and Xiaohuan Zhou and Xingzhang Ren and Xinyu Zhang and Xipin Wei and Xuancheng Ren and Yang Fan and Yang Yao and Yichang Zhang and Yu Wan and Yunfei Chu and Yuqiong Liu and Zeyu Cui and Zhenru Zhang and Zhihao Fan},
      journal={arXiv preprint arXiv:2407.10671},
      year={2024}
}
@misc{kyro-n1.1,
      title={Kyro-n1: Smarter, Sharper, and More Capable }, 
      author={Open-Neo},
      howpublished={https://huggingface.co/collections/open-neo/kyro-n1-67ab2e7bbc76a9aab3030c21},
      year={2025}
}

参与贡献

Kyro - n1.1 是一项由社区驱动的工作，欢迎大家贡献力量！无论是微调、测试还是提供反馈，您的意见都有助于塑造该模型的未来。加入 Open - Neo 社区，一起协作改进 Kyro - n1.1 吧！