Kyro N1.1 7B

🚀 Kyro-n1.1：更智能、更敏銳、更強大

Kyro-n1.1 是 Kyro-n1 的增強迭代版本，旨在提供更出色的推理能力、更優秀的理解能力和更高的回答準確率。該模型基於 Qwen2.5 - 7B - Instruct 構建，利用先進的微調技術，提升了分析複雜查詢、提供結構良好的回答以及進行更細緻對話的能力。

🚀 快速開始

Kyro-n1.1（Qwen2.5）的代碼已集成在最新的 Hugging face transformers 庫中，建議您使用最新版本的 transformers。

使用 transformers<4.37.0 時，您會遇到以下錯誤：

KeyError: 'qwen2'

基礎用法

from transformers import AutoModelForCausalLM, AutoTokenizer
model_name = "open-neo/Kyro-n1.1-7B"
model = AutoModelForCausalLM.from_pretrained(
    model_name,
    torch_dtype="auto",
    device_map="auto"
)
tokenizer = AutoTokenizer.from_pretrained(model_name)
prompt = "What do you think about CRISPR and its effect on the future of humanity?"
messages = [
    {"role": "user", "content": prompt}
]
text = tokenizer.apply_chat_template(
    messages,
    tokenize=False,
    add_generation_prompt=True
)
model_inputs = tokenizer([text], return_tensors="pt").to(model.device)
generated_ids = model.generate(
    **model_inputs,
    max_new_tokens=2048
)
generated_ids = [
    output_ids[len(input_ids):] for input_ids, output_ids in zip(model_inputs.input_ids, generated_ids)
]
response = tokenizer.batch_decode(generated_ids, skip_special_tokens=True)[0]

✨ 主要特性

相較於 Kyro - n1 的關鍵改進

• 增強的推理能力：Kyro - n1.1 展現出更強的邏輯思維能力，使其在需要深度分析的任務中更加可靠。
• 更準確的回答：經過優化的數據集篩選和改進的微調方法，確保了更好的事實一致性。
• 更廣泛的上下文理解：通過改進上下文保留能力，Kyro - n1.1 能夠更連貫地處理多輪對話。
• 為開源協作優化：作為 Open - Neo 計劃的一部分，Kyro - n1.1 旨在成為一個透明、可訪問且由社區驅動的模型。

選擇 Kyro - n1.1 的原因

• 非常適合研發工作：無論您是在探索人工智能推理基準，還是在改進自己的項目，Kyro - n1.1 都具備出色的性能。
• 適用於各種用例：從一般問答到代碼輔助和創意寫作，該模型能夠很好地適應不同的應用場景。
• 高效且可擴展：設計上具有計算效率，Kyro - n1.1 在保持合理資源需求的同時，提供強大的性能。
• 完全開源：作為 Open - Neo 生態系統的一部分，Kyro - n1.1 可免費用於修改並集成到各種工作流程中。

🔧 技術細節

📄 許可證

本項目採用 kyro 許可證。

📚 詳細文檔

引用

如果您認為我們的工作有幫助，請隨意引用我們的成果。

@misc{qwen2.5,
    title = {Qwen2.5: A Party of Foundation Models},
    url = {https://qwenlm.github.io/blog/qwen2.5/},
    author = {Qwen Team},
    month = {September},
    year = {2024}
}
@article{qwen2,
      title={Qwen2 Technical Report}, 
      author={An Yang and Baosong Yang and Binyuan Hui and Bo Zheng and Bowen Yu and Chang Zhou and Chengpeng Li and Chengyuan Li and Dayiheng Liu and Fei Huang and Guanting Dong and Haoran Wei and Huan Lin and Jialong Tang and Jialin Wang and Jian Yang and Jianhong Tu and Jianwei Zhang and Jianxin Ma and Jin Xu and Jingren Zhou and Jinze Bai and Jinzheng He and Junyang Lin and Kai Dang and Keming Lu and Keqin Chen and Kexin Yang and Mei Li and Mingfeng Xue and Na Ni and Pei Zhang and Peng Wang and Ru Peng and Rui Men and Ruize Gao and Runji Lin and Shijie Wang and Shuai Bai and Sinan Tan and Tianhang Zhu and Tianhao Li and Tianyu Liu and Wenbin Ge and Xiaodong Deng and Xiaohuan Zhou and Xingzhang Ren and Xinyu Zhang and Xipin Wei and Xuancheng Ren and Yang Fan and Yang Yao and Yichang Zhang and Yu Wan and Yunfei Chu and Yuqiong Liu and Zeyu Cui and Zhenru Zhang and Zhihao Fan},
      journal={arXiv preprint arXiv:2407.10671},
      year={2024}
}
@misc{kyro-n1.1,
      title={Kyro-n1: Smarter, Sharper, and More Capable }, 
      author={Open-Neo},
      howpublished={https://huggingface.co/collections/open-neo/kyro-n1-67ab2e7bbc76a9aab3030c21},
      year={2025}
}

參與貢獻

Kyro - n1.1 是一項由社區驅動的工作，歡迎大家貢獻力量！無論是微調、測試還是提供反饋，您的意見都有助於塑造該模型的未來。加入 Open - Neo 社區，一起協作改進 Kyro - n1.1 吧！