Smol Llama 101M Chat V1

🚀 101M參數的Llama聊天模型

這是一個基於特定基礎模型和多數據集訓練的聊天模型，具有多種ML格式可供使用，在多個評估任務中展現出了一定的性能。

🚀 快速開始

模型基礎信息

• 基礎模型：BEE-spoke-data/smol_llama-101M-GQA
• 數據集：
  • Open-Orca/SlimOrca-Dedup
  • VMware/open-instruct
  • LDJnr/Capybara
  • cognitivecomputations/ultrachat-uncensored
  • starfishmedical/webGPT_x_dolly
  • THUDM/webglm-qa
• 其他ML格式可用性：
  • GGUF：Felladrin/gguf-Smol-Llama-101M-Chat-v1
  • ONNX：Felladrin/onnx-Smol-Llama-101M-Chat-v1
  • MLC：Felladrin/mlc-q4f16-Smol-Llama-101M-Chat-v1

推薦提示格式

<|im_start|>system
{system_message}<|im_end|>
<|im_start|>user
{user_message}<|im_end|>
<|im_start|>assistant

推薦推理參數

penalty_alpha: 0.5
top_k: 4
repetition_penalty: 1.105

📚 詳細文檔

Open LLM排行榜評估結果

詳細結果可查看此處

📄 許可證

本項目採用Apache-2.0許可證。