Kyro N1.1 7B Pytorch

🚀 Kyro-n1.1：更智能、更敏銳、更強大

Kyro-n1.1是Kyro-n1的增強版本，旨在提供更出色的推理能力、更好的理解能力和更高的響應準確性。該模型基於Qwen2.5 - 7B - Instruct構建，利用先進的微調技術，提升了分析複雜查詢、提供結構良好的響應以及進行更細緻對話的能力。

🚀 快速開始

安裝說明

Kyro-n1.1（Qwen2.5）的代碼已集成到最新的Hugging face transformers庫中，建議使用最新版本的transformers。

如果使用transformers<4.37.0，會遇到以下錯誤：

KeyError: 'qwen2'

代碼示例

from transformers import AutoModelForCausalLM, AutoTokenizer
model_name = "open-neo/Kyro-n1.1-7B"
model = AutoModelForCausalLM.from_pretrained(
    model_name,
    torch_dtype="auto",
    device_map="auto"
)
tokenizer = AutoTokenizer.from_pretrained(model_name)
prompt = "What do you think about CRISPR and its effect on the future of humanity?"
messages = [
    {"role": "user", "content": prompt}
]
text = tokenizer.apply_chat_template(
    messages,
    tokenize=False,
    add_generation_prompt=True
)
model_inputs = tokenizer([text], return_tensors="pt").to(model.device)
generated_ids = model.generate(
    **model_inputs,
    max_new_tokens=2048
)
generated_ids = [
    output_ids[len(input_ids):] for input_ids, output_ids in zip(model_inputs.input_ids, generated_ids)
]
response = tokenizer.batch_decode(generated_ids, skip_special_tokens=True)[0]

✨ 主要特性

相較於Kyro - n1的關鍵改進

• 增強的推理能力：Kyro - n1.1展現出更強的邏輯思維能力，使其在需要深度分析的任務中更加可靠。
• 更準確的響應：優化的數據集篩選和改進的微調方法確保了更好的事實一致性。
• 更廣泛的上下文理解：通過改進上下文保留能力，Kyro - n1.1能夠更連貫地處理多輪對話。
• 為開源協作優化：作為Open - Neo計劃的一部分，Kyro - n1.1旨在成為一個透明、可訪問且由社區驅動的模型。

選擇Kyro - n1.1的原因

• 非常適合研發：無論你是在探索AI推理基準，還是在改進自己的項目，Kyro - n1.1都能提供出色的性能。
• 適用於各種用例：從一般問答到代碼輔助和創意寫作，該模型在不同應用場景中都能很好地適應。
• 高效且可擴展：設計上具有計算效率，Kyro - n1.1在保持可管理的資源需求的同時，提供強大的性能。
• 完全開源：作為Open - Neo生態系統的一部分，Kyro - n1.1可免費用於修改並集成到各種工作流程中。

🔧 技術細節

📄 許可證

本項目採用kyro許可證，詳情請見LICENSE.md。

📚 詳細文檔

引用說明

如果你覺得我們的工作有幫助，請引用以下內容：

@misc{qwen2.5,
    title = {Qwen2.5: A Party of Foundation Models},
    url = {https://qwenlm.github.io/blog/qwen2.5/},
    author = {Qwen Team},
    month = {September},
    year = {2024}
}
@article{qwen2,
      title={Qwen2 Technical Report}, 
      author={An Yang and Baosong Yang and Binyuan Hui and Bo Zheng and Bowen Yu and Chang Zhou and Chengpeng Li and Chengyuan Li and Dayiheng Liu and Fei Huang and Guanting Dong and Haoran Wei and Huan Lin and Jialong Tang and Jialin Wang and Jian Yang and Jianhong Tu and Jianwei Zhang and Jianxin Ma and Jin Xu and Jingren Zhou and Jinze Bai and Jinzheng He and Junyang Lin and Kai Dang and Keming Lu and Keqin Chen and Kexin Yang and Mei Li and Mingfeng Xue and Na Ni and Pei Zhang and Peng Wang and Ru Peng and Rui Men and Ruize Gao and Runji Lin and Shijie Wang and Shuai Bai and Sinan Tan and Tianhang Zhu and Tianhao Li and Tianyu Liu and Wenbin Ge and Xiaodong Deng and Xiaohuan Zhou and Xingzhang Ren and Xinyu Zhang and Xipin Wei and Xuancheng Ren and Yang Fan and Yang Yao and Yichang Zhang and Yu Wan and Yunfei Chu and Yuqiong Liu and Zeyu Cui and Zhenru Zhang and Zhihao Fan},
      journal={arXiv preprint arXiv:2407.10671},
      year={2024}
}
@misc{kyro-n1.1,
      title={Kyro-n1: Smarter, Sharper, and More Capable }, 
      author={Open-Neo},
      howpublished={https://huggingface.co/collections/open-neo/kyro-n1-67ab2e7bbc76a9aab3030c21},
      year={2025}
}

參與貢獻

Kyro - n1.1是一個由社區驅動的項目，歡迎大家貢獻力量！無論是微調、測試還是提供反饋，你的參與都將有助於塑造該模型的未來。加入Open - Neo社區，一起改進Kyro - n1.1吧！