Meta Llama 3 8B Instruct Hf AWQ

🚀 Undi95/Meta-Llama-3-8B-hf AWQ

這是一個基於Meta Llama 3-8B模型的AWQ量化版本，可用於文本生成任務，在對話場景表現出色。

🚀 快速開始

本模型是基於Meta Llama 3-8B模型的AWQ量化版本。原始模型可在Meta-Llama-3-8B-instruct-hf查看。

📚 詳細文檔

模型概述

Meta開發併發布了Meta Llama 3系列大語言模型（LLMs），這是一組預訓練和經過指令調優的生成式文本模型，有80億和700億參數兩種規格。Llama 3經過指令調優的模型針對對話用例進行了優化，在常見的行業基準測試中，其性能優於許多現有的開源聊天模型。此外，在開發這些模型時，我們非常注重優化模型的實用性和安全性。

模型信息

• 模型開發者：Meta
• 模型變體：Llama 3有兩種規格——80億和700億參數，有預訓練和指令調優兩種變體。
• 輸入：模型僅接受文本輸入。
• 輸出：模型僅生成文本和代碼。
• 模型架構：Llama 3是一種自迴歸語言模型，採用了優化的Transformer架構。經過調優的版本使用監督微調（SFT）和基於人類反饋的強化學習（RLHF）來使模型符合人類對實用性和安全性的偏好。

引用信息

@article{llama3modelcard,
  title={Llama 3 Model Card},
  author={AI@Meta},
  year={2024},
  url = {https://github.com/meta-llama/llama3/blob/main/MODEL_CARD.md}
}

📄 許可證

• 許可證類型：other
• 許可證名稱：llama3
• 許可證鏈接：LICENSE

📋 模型屬性詳情