Thinkedit Deepseek Qwen 14b

🚀 ThinkEdit-deepseek-qwen-14b

ThinkEdit-deepseek-qwen-14b 是一個用於緩解推理模型中過度簡短思考問題的模型。該項目還發布了 ThinkEdit-deepseek-qwen-1.5b 和 ThinkEdit-deepseek-llama3-8b 的 ThinkEdit 版本。此方法通過識別和編輯少量參數，有效提升了模型在推理任務中的性能。

🚀 快速開始

本項目主要圍繞 ThinkEdit 方法展開，旨在解決推理增強模型中生成過短、抽象思維鏈推理的問題。通過編輯少量參數，去除“短推理”方向，提高模型的準確性。

✨ 主要特性

• 輕量級編輯：識別約 2% 的“短推理”注意力頭，僅編輯約 0.1% 的總參數。
• 性能提升：顯著提高模型在推理任務中的性能，特別是在短推理痕跡的情況下。

📚 詳細文檔

項目信息

• 作者：Chung-En Sun, Ge Yan, Tsui-Wei Weng
• 論文：ThinkEdit: Interpretable Weight Editing to Mitigate Overly Short Thinking in Reasoning Models
• 代碼：https://github.com/Trustworthy-ML-Lab/ThinkEdit

問題背景

推理增強模型有時會因生成過短、抽象的思維鏈（CoT）推理而失敗，影響其準確性。

ThinkEdit 方法

ThinkEdit 是一種輕量級的權重編輯方法，具體步驟如下：

• 識別約 2% 的“短推理”注意力頭。
• 僅編輯約 0.1% 的總參數。
• 從輸出中去除“短推理”方向。
• 提升性能，特別是在短推理痕跡的情況下。

完整性能結果

1. 整體準確率

2. 短推理案例的準確率（前 5% / 10% / 20%）

3. 推理長度（最短響應的前 5% / 10% / 20%）

使用方法

ThinkEdit 模型的使用方法與原始的 deepseek-distilled 模型完全相同。

引用

@misc{sun2025thinkedit,
      title={ThinkEdit: Interpretable Weight Editing to Mitigate Overly Short Thinking in Reasoning Models}, 
      author={Chung-En Sun and Ge Yan and Tsui-Wei Weng},
      year={2025},
      eprint={2503.22048},
      archivePrefix={arXiv},
      primaryClass={cs.CL},
      url={https://arxiv.org/abs/2503.22048}, 
}

📄 許可證

本項目採用 MIT 許可證。