Llama 3.2 1B Instruct GGUF

🚀 unsloth/Llama-3.2-1B-Instruct

本項目提供了對Llama 3.2模型的微調支持，能讓模型在訓練時速度提升、內存使用降低。同時提供了多種格式的模型上傳，以及免費的Google Colab筆記本供用戶使用。

🚀 快速開始

模型版本查看

查看 我們的模型集合 ，獲取包括GGUF、4位和原始16位格式在內的所有Llama 3.2版本。

GGUF上傳

提供16位、8位、6位、5位、4位、3位和2位的模型上傳。

免費微調

我們有一個免費的Google Colab Tesla T4筆記本用於Llama 3.2 (3B)，點擊鏈接即可使用：免費筆記本

模型詳情

如需瞭解模型的更多詳細信息，請訪問Meta的原始 模型卡片

✨ 主要特性

免費微調

所有筆記本都 對初學者友好！添加你的數據集，點擊“全部運行”，你將獲得一個速度快2倍的微調模型，該模型可以導出為GGUF、vLLM格式或上傳到Hugging Face。

其他實用筆記本

• 這個 對話筆記本 對ShareGPT ChatML / Vicuna模板很有用。
• 這個 文本補全筆記本 用於原始文本。這個 DPO筆記本 可複製Zephyr模型。
• * Kaggle有2個T4 GPU，但我們只用1個。由於開銷問題，1個T4 GPU的速度快5倍。

📚 詳細文檔

特別感謝

非常感謝Meta和Llama團隊創建併發布這些模型。

模型信息

Meta Llama 3.2多語言大語言模型（LLM）集合是一組預訓練和指令微調的生成模型，有10億和30億參數規模（文本輸入/文本輸出）。Llama 3.2指令微調的純文本模型針對多語言對話用例進行了優化，包括智能檢索和摘要任務。在常見的行業基準測試中，它們的表現優於許多現有的開源和閉源聊天模型。

反饋與技術信息

關於模型的問題或評論發送地址：有關如何提供對模型的反饋或評論的說明，請參閱模型 README。有關生成參數和如何在應用程序中使用Llama 3.1的技術信息，請訪問 這裡。

📄 許可證

使用Llama 3.2受 Llama 3.2社區許可證 約束。