Meta Llama 3 8B GGUF

🚀 Meta-Llama-3-8B GGUF模型

Meta-Llama-3-8B GGUF模型是Meta開發的大語言模型，具有多種格式以適應不同的硬件和使用場景。這些模型在計算速度、內存使用和精度方面各有優勢，能滿足商業和研究等多種需求。

🚀 快速開始

選擇合適的模型格式

選擇正確的模型格式取決於你的硬件能力和內存限制。

BF16（Brain Float 16）– 若支持BF16加速則使用

• 一種16位浮點格式，專為更快的計算而設計，同時保持良好的精度。
• 提供與FP32 相似的動態範圍，但內存使用更低。
• 若你的硬件支持BF16加速（查看設備規格），則推薦使用。
• 與FP32相比，適用於高性能推理且內存佔用減少。

📌 使用BF16的情況： ✔ 你的硬件具有原生BF16支持（例如，較新的GPU、TPU）。 ✔ 你希望在節省內存的同時獲得更高的精度。 ✔ 你計劃將模型重新量化為其他格式。

📌 避免使用BF16的情況： ❌ 你的硬件不支持BF16（可能會回退到FP32並運行較慢）。 ❌ 你需要與缺乏BF16優化的舊設備兼容。

F16（Float 16）– 比BF16更廣泛支持

• 一種16位浮點格式，精度較高，但取值範圍比BF16小。
• 適用於大多數支持FP16加速的設備（包括許多GPU和一些CPU）。
• 數值精度略低於BF16，但通常足以進行推理。

📌 使用F16的情況： ✔ 你的硬件支持FP16但不支持BF16。 ✔ 你需要在速度、內存使用和準確性之間取得平衡。 ✔ 你在GPU或其他針對FP16計算優化的設備上運行。

📌 避免使用F16的情況： ❌ 你的設備缺乏原生FP16支持（可能運行比預期慢）。 ❌ 你有內存限制。

量化模型（Q4_K、Q6_K、Q8等）– 用於CPU和低顯存推理

量化在儘可能保持準確性的同時減少模型大小和內存使用。

• 低比特模型（Q4_K） → 最適合最小的內存使用，可能精度較低。
• 高比特模型（Q6_K、Q8_0） → 準確性更好，需要更多內存。

📌 使用量化模型的情況： ✔ 你在CPU上運行推理，需要優化的模型。 ✔ 你的設備顯存較低，無法加載全精度模型。 ✔ 你希望在保持合理準確性的同時減少內存佔用。

📌 避免使用量化模型的情況： ❌ 你需要最高的準確性（全精度模型更適合）。 ❌ 你的硬件有足夠的顯存用於更高精度的格式（BF16/F16）。

極低比特量化（IQ3_XS、IQ3_S、IQ3_M、Q4_K、Q4_0）

這些模型針對極端內存效率進行了優化，非常適合低功耗設備或大規模部署，其中內存是關鍵限制因素。

• IQ3_XS：超低比特量化（3位），具有極高的內存效率。
  • 用例：最適合超低內存設備，即使Q4_K也太大。
  • 權衡：與高比特量化相比，準確性較低。
• IQ3_S：小塊大小，實現最大內存效率。
  • 用例：最適合低內存設備，其中IQ3_XS過於激進。
• IQ3_M：中等塊大小，比IQ3_S具有更好的準確性。
  • 用例：適用於低內存設備，其中IQ3_S過於受限。
• Q4_K：4位量化，具有逐塊優化以提高準確性。
  • 用例：最適合低內存設備，其中Q6_K太大。
• Q4_0：純4位量化，針對ARM設備進行了優化。
  • 用例：最適合低內存環境。
  • 為了更好的準確性，優先選擇IQ4_NL。

模型格式選擇總結表

屬性	詳情
模型格式	BF16、F16、量化模型（Q4_K、Q6_K、Q8等）、極低比特量化（IQ3_XS、IQ3_S、IQ3_M、Q4_K、Q4_0）
精度	BF16最高，F16高，量化模型中等或低
內存使用	BF16和F16高，量化模型低
設備要求	BF16：支持BF16的GPU/CPU；F16：支持FP16的設備；量化模型：CPU或低顯存設備；極低比特量化：超低內存或ARM設備
最佳用例	BF16：高速推理且內存減少；F16：BF16不可用時的GPU推理；量化模型：內存受限環境；極低比特量化：極端內存效率

包含的文件及詳情

• Meta-Llama-3-8B-bf16.gguf：模型權重保存為BF16。如果你想將模型重新量化為不同格式，請使用此文件。如果你的設備支持BF16加速，則最佳。
• Meta-Llama-3-8B-f16.gguf：模型權重存儲為F16。如果你的設備支持FP16，特別是BF16不可用時，請使用此文件。
• Meta-Llama-3-8B-bf16-q8_0.gguf：輸出和嵌入保持為BF16。所有其他層量化為Q8_0。如果你的設備支持BF16，並且你想要量化版本，請使用此文件。
• Meta-Llama-3-8B-f16-q8_0.gguf：輸出和嵌入保持為F16。所有其他層量化為Q8_0。
• Meta-Llama-3-8B-q4_k.gguf：輸出和嵌入量化為Q8_0。所有其他層量化為Q4_K。適合內存有限的CPU推理。
• Meta-Llama-3-8B-q4_k_s.gguf：最小的Q4_K變體，以準確性為代價使用更少的內存。最適合極低內存設置。
• Meta-Llama-3-8B-q6_k.gguf：輸出和嵌入量化為Q8_0。所有其他層量化為Q6_K。
• Meta-Llama-3-8B-q8_0.gguf：完全Q8量化的模型，以獲得更好的準確性。需要更多內存，但提供更高的精度。
• Meta-Llama-3-8B-iq3_xs.gguf：IQ3_XS量化，針對極端內存效率進行了優化。最適合超低內存設備。
• Meta-Llama-3-8B-iq3_m.gguf：IQ3_M量化，提供中等塊大小以提高準確性。適用於低內存設備。
• Meta-Llama-3-8B-q4_0.gguf：純Q4_0量化，針對ARM設備進行了優化。最適合低內存環境。優先選擇IQ4_NL以獲得更好的準確性。

測試模型

如果你發現這些模型有用，請點擊點贊 ❤。另外，如果你能測試我的網絡監控助手，我將不勝感激👉 網絡監控助手。 💬 點擊聊天圖標（主頁面和儀表盤頁面的右下角）。選擇一個大語言模型；在大語言模型類型之間切換：TurboLLM -> FreeLLM -> TestLLM。

正在測試的內容

我正在針對我的網絡監控服務進行函數調用實驗。使用小型開源模型。我關注的問題是“模型可以多小仍能正常工作”。

• 🟡 TestLLM：使用llama.cpp在CPU虛擬機的6個線程上運行當前測試模型（加載大約需要15秒。推理速度相當慢，並且一次只處理一個用戶提示 — 仍在努力擴展！）。如果你好奇，我很樂意分享它的工作原理！
• 🟢 TurboLLM：使用gpt-4o-mini，速度快！注意：由於OpenAI模型價格昂貴，令牌有限，但你可以登錄或下載免費的網絡監控代理以獲得更多令牌，或者使用TestLLM。
• 🔵 HugLLM：運行開源的Hugging Face模型，速度快，運行小型模型（≈8B），因此質量較低。獲得2倍更多的令牌（取決於Hugging Face API的可用性）。

✨ 主要特性

模型詳情

Meta開發併發布了Meta Llama 3系列大語言模型（LLM），這是一組預訓練和指令微調的生成式文本模型，有8B和70B兩種規模。Llama 3指令微調模型針對對話用例進行了優化，在常見行業基準測試中優於許多可用的開源聊天模型。此外，在開發這些模型時，我們非常注重優化實用性和安全性。

• 模型開發者：Meta
• 變體：Llama 3有兩種規模 — 8B和70B參數 — 包括預訓練和指令微調變體。
• 輸入：模型僅接受文本輸入。
• 輸出：模型僅生成文本和代碼。
• 模型架構：Llama 3是一種自迴歸語言模型，使用優化的Transformer架構。微調版本使用監督微調（SFT）和基於人類反饋的強化學習（RLHF）來符合人類對實用性和安全性的偏好。

模型參數表

屬性	詳情
模型類型	Llama 3（8B和70B）
訓練數據	公開可用的在線數據的新組合
參數	8B和70B
上下文長度	8k
GQA	是
令牌計數	15T+
知識截止日期	8B：2023年3月；70B：2023年12月

模型發佈信息

• 模型發佈日期：2024年4月18日。
• 狀態：這是一個基於離線數據集訓練的靜態模型。隨著我們根據社區反饋改進模型安全性，未來將發佈微調模型的新版本。
• 許可證：可在以下鏈接獲取自定義商業許可證：https://llama.meta.com/llama3/license
• 反饋渠道：有關模型的問題或評論可在模型README中找到提供反饋或評論的說明。有關生成參數和如何在應用程序中使用Llama 3的技術信息，請訪問此處。

預期用途

• 預期用例：Llama 3旨在用於英語的商業和研究用途。指令微調模型適用於類似助手的聊天，而預訓練模型可用於各種自然語言生成任務。
• 超出範圍的用途：以任何違反適用法律法規（包括貿易合規法律）的方式使用。以《可接受使用政策》和《Llama 3社區許可證》禁止的任何其他方式使用。使用英語以外的語言。
• 注意事項：開發者可以根據《Llama 3社區許可證》和《可接受使用政策》對Llama 3模型進行微調以支持英語以外的語言。

硬件和軟件

• 訓練因素：我們使用自定義訓練庫、Meta的研究超級集群和生產集群進行預訓練。微調、註釋和評估也在第三方雲計算上進行。
• 碳足跡：預訓練在H100 - 80GB類型的硬件上累計使用了770萬個GPU小時的計算資源（TDP為700W）。估計總排放量為2290 tCO2eq，其中100%由Meta的可持續發展計劃抵消。

訓練資源消耗表

屬性	Llama 3 8B	Llama 3 70B	總計
時間（GPU小時）	130萬	640萬	770萬
功耗（W）	700	700	-
碳排放（tCO2eq）	390	1900	2290

訓練數據

• 概述：Llama 3在超過15萬億個來自公開可用來源的令牌數據上進行了預訓練。微調數據包括公開可用的指令數據集以及超過1000萬個經過人工註釋的示例。預訓練和微調數據集均不包括Meta用戶數據。
• 數據新鮮度：預訓練數據的截止日期分別為8B模型的2023年3月和70B模型的2023年12月。

基準測試

在本節中，我們報告了Llama 3模型在標準自動基準測試中的結果。對於所有評估，我們使用內部評估庫。有關方法的詳細信息，請參閱此處。

基礎預訓練模型

類別	基準測試	Llama 3 8B	Llama2 7B	Llama2 13B	Llama 3 70B	Llama2 70B
通用	MMLU（5-shot）	66.6	45.7	53.8	79.5	69.7
通用	AGIEval英語（3 - 5 shot）	45.9	28.8	38.7	63.0	54.8
通用	CommonSenseQA（7-shot）	72.6	57.6	67.6	83.8	78.7
通用	Winogrande（5-shot）	76.1	73.3	75.4	83.1	81.8
通用	BIG - Bench Hard（3-shot，CoT）	61.1	38.1	47.0	81.3	65.7
通用	ARC - Challenge（25-shot）	78.6	53.7	67.6	93.0	85.3
知識推理	TriviaQA - Wiki（5-shot）	78.5	72.1	79.6	89.7	87.5
閱讀理解	SQuAD（1-shot）	76.4	72.2	72.1	85.6	82.6
閱讀理解	QuAC（1-shot，F1）	44.4	39.6	44.9	51.1	49.4
閱讀理解	BoolQ（0-shot）	75.7	65.5	66.9	79.0	73.1
閱讀理解	DROP（3-shot，F1）	58.4	37.9	49.8	79.7	70.2

指令微調模型

基準測試	Llama 3 8B	Llama 2 7B	Llama 2 13B	Llama 3 70B	Llama 2 70B
MMLU（5-shot）	68.4	34.1	47.8	82.0	52.9
GPQA（0-shot）	34.2	21.7	22.3	39.5	21.0
HumanEval（0-shot）	62.2	7.9	14.0	81.7	25.6
GSM - 8K（8-shot，CoT）	79.6	25.7	77.4	93.0	57.5
MATH（4-shot，CoT）	30.0	3.8	6.7	50.4	11.6

責任與安全

我們相信開放的人工智能方法能夠帶來更好、更安全的產品，加速創新，並擴大整體市場。我們致力於負責任的人工智能開發，並採取了一系列措施來限制濫用和危害，支持開源社區。 基礎模型是功能廣泛的技術，旨在用於各種應用。它們並非旨在滿足所有開發者對所有用例的安全級別偏好，因為這些偏好本質上會因不同應用而異。 相反，負責任的大語言模型應用部署是通過在應用開發的整個過程中實施一系列安全最佳實踐來實現的，從模型預訓練、微調，到部署包含保障措施的系統，以根據具體用例和受眾量身定製安全需求。

作為Llama 3發佈的一部分，我們更新了《負責任使用指南》，以概述開發者為其應用實施模型和系統級安全的步驟和最佳實踐。我們還提供了一系列資源，包括Meta Llama Guard 2和Code Shield保障措施。這些工具已被證明能大幅降低大語言模型系統的殘餘風險，同時保持較高的實用性。我們鼓勵開發者根據自身需求調整和部署這些保障措施，並提供了參考實現供你開始使用。

Llama 3 - Instruct

正如《負責任使用指南》中所述，模型實用性和模型對齊之間的權衡可能不可避免。開發者應根據具體用例和受眾，謹慎權衡對齊和實用性的好處。開發者在使用Llama模型時應注意殘餘風險，並根據需要利用額外的安全工具，以達到適合其用例的安全標準。

• 安全：對於我們的指令微調模型，我們進行了廣泛的紅隊測試、對抗性評估，並實施了安全緩解技術，以降低殘餘風險。與任何大語言模型一樣，殘餘風險可能仍然存在，我們建議開發者在其用例的背景下評估這些風險。同時，我們正在與社區合作，使人工智能安全基準標準透明、嚴格且可解釋。
• 拒絕回答：除了殘餘風險，我們非常重視模型對良性提示的拒絕回答情況。過度拒絕不僅會影響用戶體驗，在某些情況下甚至可能有害。我們聽取了開發者社區的反饋，並改進了微調過程，以確保Llama 3比Llama 2更不可能錯誤地拒絕回答提示。我們建立了內部基準並開發了緩解措施，以限制錯誤拒絕，使Llama 3成為我們迄今為止最實用的模型。

負責任的發佈

除了上述負責任使用的考慮因素外，我們遵循了嚴格的流程，在做出發佈決定之前，需要採取額外措施來防止濫用和應對關鍵風險。

• 濫用：如果你訪問或使用Llama 3，你同意遵守《可接受使用政策》。該政策的最新版本可在https://llama.meta.com/llama3/use-policy/找到。
• 關鍵風險
  • CBRNE（化學、生物、放射性、核和高當量爆炸物）：我們對模型在這方面的安全性進行了雙重評估：
    • 在模型訓練期間進行迭代測試，以評估與CBRNE威脅和其他對抗性風險相關的響應安全性。
    • 邀請外部CBRNE專家進行提升測試，評估模型準確提供專家知識並減少潛在CBRNE濫用障礙的能力，參考不使用模型時通過網絡搜索所能達到的效果。
  • 網絡安全：我們使用Meta的網絡安全評估套件CyberSecEval對Llama 3進行了評估，衡量Llama 3作為編碼助手時建議不安全代碼的傾向，以及Llama 3響應協助進行網絡攻擊請求的傾向，其中攻擊由行業標準MITRE ATT&CK網絡攻擊本體定義。在我們的不安全編碼和網絡攻擊協助測試中，Llama 3的表現與具有同等編碼能力的模型處於相同範圍或更安全。
  • 兒童安全：我們使用專家團隊進行了兒童安全風險評估，以評估模型產生可能導致兒童安全風險的輸出的能力，並通過微調提供必要和適當的風險緩解建議。我們利用這些專家紅隊測試來擴展我們在Llama 3模型開發過程中評估基準的覆蓋範圍。對於Llama 3，我們使用基於目標的方法進行了新的深入測試，以評估模型在多個攻擊向量上的風險。我們還與內容專家合作進行紅隊測試，評估潛在違規內容，同時考慮特定市場的細微差別或經驗。

社區

生成式人工智能安全需要專業知識和工具，我們相信開放社區的力量能夠加速其發展。我們是開放聯盟的積極成員，包括AI Alliance、Partnership in AI和MLCommons，積極為安全標準化和透明度做出貢獻。我們鼓勵社區採用MLCommons概念驗證評估等分類法，以促進安全和內容評估的協作和透明度。我們的Purple Llama工具已開源供社區使用，並廣泛分發給包括雲服務提供商在內的生態系統合作伙伴。我們鼓勵社區為我們的GitHub倉庫做出貢獻。 最後，我們建立了一系列資源，包括輸出報告機制和漏洞賞金計劃，以在社區的幫助下不斷改進Llama技術。

🔧 技術細節

倫理考慮和侷限性

Llama 3的核心價值觀是開放性、包容性和實用性。它旨在為所有人服務，並適用於廣泛的用例。因此，它設計為對不同背景、經驗和觀點的人都可訪問。Llama 3以用戶的實際情況和需求為出發點，不插入不必要的判斷或規範性內容，同時認識到即使在某些情況下可能存在問題的內容，在其他情況下也可能有價值。它尊重所有用戶的尊嚴和自主權，特別是在推動創新和進步的自由思想和表達價值觀方面。 然而，Llama 3是一項新技術，與任何新技術一樣，其使用存在風險。到目前為止進行的測試均使用英語，且無法涵蓋所有場景。因此，與所有大語言模型一樣，Llama 3的潛在輸出無法提前預測，模型在某些情況下可能會對用戶提示產生不準確、有偏見或其他令人反感的響應。因此，在部署任何Llama 3模型的應用程序之前，開發者應針對其特定應用進行安全測試和微調。正如《負責任使用指南》中所述，我們建議將Purple Llama解決方案納入你的工作流程，特別是Llama Guard，它提供了一個基礎模型來過濾輸入和輸出提示，在模型級安全的基礎上增加系統級安全。 請參閱《負責任使用指南》，可在http://llama.meta.com/responsible-use-guide獲取。

引用說明

@article{llama3modelcard,
  title={Llama 3 Model Card},
  author={AI@Meta},
  year={2024},
  url = {https://github.com/meta-llama/llama3/blob/main/MODEL_CARD.md}
}

貢獻者

Aaditya Singh; Aaron Grattafiori; Abhimanyu Dubey; Abhinav Jauhri; Abhinav Pandey; Abhishek Kadian; Adam Kelsey; Adi Gangidi; Ahmad Al-Dahle; Ahuva Goldstand; Aiesha Letman; Ajay Menon; Akhil Mathur; Alan Schelten; Alex Vaughan; Amy Yang; Andrei Lupu; Andres Alvarado; Andrew Gallagher; Andrew Gu; Andrew Ho; Andrew Poulton; Andrew Ryan; Angela Fan; Ankit Ramchandani; Anthony Hartshorn; Archi Mitra; Archie Sravankumar; Artem Korenev; Arun Rao; Ashley Gabriel; Ashwin Bharambe; Assaf Eisenman; Aston Zhang; Aurelien Rodriguez; Austen Gregerson; Ava Spataru; Baptiste Roziere; Ben Maurer; Benjamin Leonhardi; Bernie Huang; Bhargavi Paranjape; Bing Liu; Binh Tang; Bobbie Chern; Brani Stojkovic; Brian Fuller; Catalina Mejia Arenas; Chao Zhou; Charlotte Caucheteux; Chaya Nayak; Ching-Hsiang Chu; Chloe Bi; Chris Cai; Chris Cox; Chris Marra; Chris McConnell; Christian Keller; Christoph Feichtenhofer; Christophe Touret; Chunyang Wu; Corinne Wong; Cristian Canton Ferrer; Damien Allonsius; Daniel Kreymer; Daniel Haziza; Daniel Li; Danielle Pintz; Danny Livshits; Danny Wyatt; David Adkins; David Esiobu; David Xu; Davide Testuggine; Delia David; Devi Parikh; Dhruv Choudhary; Dhruv Mahajan; Diana Liskovich; Diego Garcia-Olano; Diego Perino; Dieuwke Hupkes; Dingkang Wang; Dustin Holland; Egor Lakomkin; Elina Lobanova; Xiaoqing Ellen Tan; Emily Dinan; Eric Smith; Erik Brinkman; Esteban Arcaute; Filip Radenovic; Firat Ozgenel; Francesco Caggioni; Frank Seide; Frank Zhang; Gabriel Synnaeve; Gabriella Schwarz; Gabrielle Lee; Gada Badeer; Georgia Anderson; Graeme Nail; Gregoire Mialon; Guan Pang; Guillem Cucurell; Hailey Nguyen; Hannah Korevaar; Hannah Wang; Haroun Habeeb; Harrison Rudolph; Henry Aspegren; Hu Xu; Hugo Touvron; Iga Kozlowska; Igor Molybog; Igor Tufanov; Iliyan Zarov; Imanol Arrieta Ibarra; Irina-Elena Veliche; Isabel Kloumann; Ishan Misra; Ivan Evtimov; Jacob Xu; Jade Copet; Jake Weissman; Jan Geffert; Jana Vranes; Japhet Asher; Jason Park; Jay Mahadeokar; Jean-Baptiste Gaya; Jeet Shah; Jelmer van der Linde; Jennifer Chan; Jenny Hong; Jenya Lee; Jeremy Fu; Jeremy Teboul; Jianfeng Chi; Jianyu Huang; Jie Wang; Jiecao Yu; Joanna Bitton; Joe Spisak; Joelle Pineau; Jon Carvill; Jongsoo Park; Joseph Rocca; Joshua Johnstun; Junteng Jia; Kalyan Vasuden Alwala; Kam Hou U; Kate Plawiak; Kartikeya Upasani; Kaushik Veeraraghavan; Ke Li; Kenneth Heafield; Kevin Stone; Khalid El-Arini; Krithika Iyer; Kshitiz Malik; Kuenley Chiu; Kunal Bhalla; Kyle Huang; Lakshya Garg; Lauren Rantala-Yeary; Laurens van der Maaten; Lawrence Chen; Leandro Silva; Lee Bell; Lei Zhang; Liang Tan; Louis Martin; Lovish Madaan; Luca Wehrstedt; Lukas Blecher; Luke de Oliveira; Madeline Muzzi; Madian Khabsa; Manav Avlani; Mannat Singh; Manohar Paluri; Mark Zuckerberg; Marcin Kardas; Martynas Mankus; Mathew Oldham; Mathieu Rita; Matthew Lennie; Maya Pavlova; Meghan Keneally; Melanie Kambadur; Mihir Patel; Mikayel Samvelyan; Mike Clark; Mike Lewis; Min Si; Mitesh Kumar Singh; Mo Metanat; Mona Hassan; Naman Goyal; Narjes Torabi; Nicolas Usunier; Nikolay Bashlykov; Nikolay Bogoychev; Niladri Chatterji; Ning Dong; Oliver Aobo Yang; Olivier Duchenne; Onur Celebi; Parth Parekh; Patrick Alrassy; Paul Saab; Pavan Balaji; Pedro Rittner; Pengchuan Zhang; Pengwei Li; Petar Vasic; Peter Weng; Polina Zvyagina; Prajjwal Bhargava; Pratik Dubal; Praveen Krishnan; Punit Singh Koura; Qing He; Rachel Rodriguez; Ragavan Srinivasan; Rahul Mitra; Ramon Calderer; Raymond Li; Robert Stojnic; Roberta Raileanu; Robin Battey; Rocky Wang; Rohit Girdhar; Rohit Patel; Romain Sauvestre; Ronnie Polidoro; Roshan Sumbaly; Ross Taylor; Ruan Silva; Rui Hou; Rui Wang; Russ Howes; Ruty Rinott; Saghar Hosseini; Sai Jayesh Bondu; Samyak Datta; Sanjay Singh; Sara Chugh; Sargun Dhillon; Satadru Pan; Sean Bell; Sergey Edunov; Shaoliang Nie; Sharan Narang; Sharath Raparthy; Shaun Lindsay; Sheng Feng; Sheng Shen; Shenghao Lin; Shiva Shankar; Shruti Bhosale; Shun Zhang; Simon Vandenhende; Sinong Wang; Seohyun Sonia Kim; Soumya Batra; Sten Sootla; Steve Kehoe; Suchin Gururangan; Sumit Gupta; Sunny Virk; Sydney Borodinsky; Tamar Glaser; Tamar Herman; Tamara Best; Tara Fowler; Thomas Georgiou; Thomas Scialom; Tianhe Li; Todor Mihaylov; Tong Xiao; Ujjwal Karn; Vedanuj Goswami; Vibhor Gupta; Vignesh Ramanathan; Viktor Kerkez; Vinay Satish Kumar; Vincent Gonguet; Vish Vogeti; Vlad Poenaru; Vlad Tiberiu Mihailescu; Vladan Petrovic; Vladimir Ivanov; Wei Li; Weiwei Chu; Wenhan Xiong; Wenyin Fu; Wes Bouaziz; Whitney Meers; Will Constable; Xavier Martinet; Xiaojian Wu; Xinbo Gao; Xinfeng Xie; Xuchao Jia; Yaelle Goldschlag; Yann LeCun; Yashesh Gaur; Yasmine Babaei; Ye Qi; Yenda Li; Yi Wen; Yiwen Song; Youngjin Nam; Yuchen Hao; Yuchen Zhang; Yun Wang; Yuning Mao; Yuzi He; Zacharie Delpierre Coudert; Zachary DeVito; Zahra Hankir; Zhaoduo Wen; Zheng Yan; Zhengxing Chen; Zhenyu Yang; Zoe Papakipos

📄 許可證

META LLAMA 3社區許可協議

Meta Llama 3版本發佈日期：2024年4月18日

“協議”指本協議中規定的使用、複製、分發和修改Llama材料的條款和條件。

“文檔”指Meta在https://llama.meta.com/get-started/ 分發的Meta Llama 3隨附的規格、手冊和文檔。

“被許可方”或“您”指您，或您的僱主或任何其他人或實體（如果您代表該人或實體簽訂本協議），達到適用法律、規則或法規要求的提供法律同意的年齡，並且如果您代表您的僱主或其他人員或實體簽訂本協議，則具有約束他們的法律權力。

“Meta Llama 3”指基礎大語言模型以及軟件和算法，包括機器學習模型代碼、訓練好的模型權重、推理啟用代碼、訓練啟用代碼、微調啟用代碼以及Meta在https://llama.meta.com/llama-downloads 分發的上述其他元素。

“Llama材料”指根據本協議提供的Meta專有的Meta Llama 3和文檔（及其任何部分）的統稱。

“Meta”或“我們”指Meta Platforms Ireland Limited（如果您位於歐洲經濟區或瑞士，或者如果您是實體，您的主要營業地位於歐洲經濟區或瑞士）和Meta Platforms, Inc.（如果您位於歐洲經濟區或瑞士以外）。

許可權利和再分發

1. 權利授予：您被授予在Llama材料中體現的Meta知識產權或Meta擁有的其他權利下的非排他性、全球性、不可轉讓且免版稅的有限許可，以使用、複製、分發、拷貝、創作衍生作品並對Llama材料進行修改。
2. 再分發和使用
   • 如果您分發或提供Llama材料（或其任何衍生作品），或使用其中任何一種的產品或服務，包括另一個AI模型，您應（A）隨任何此類Llama材料提供本協議的副本；並且（B）在相關網站、用戶界面、博客文章、關於頁面或產品文檔上顯著顯示“Built with Meta Llama 3”。如果您使用Llama材料創建、訓練、微調或以其他方式改進一個AI模型，並進行分發或提供，則您還應在任何此類AI模型名稱的開頭包含“Llama 3”。
   • 如果您作為集成最終用戶產品的一部分從被許可方處接收Llama材料或其任何衍生作品，則本協議第2條不適用於您。
   • 您必須在您分發的所有Llama材料副本中，在作為此類副本一部分分發的“Notice”文本文件中保留以下歸屬聲明：“Meta Llama 3 is licensed under the Meta Llama 3 Community License, Copyright © Meta Platforms, Inc. All Rights Reserved.”
   • 您對Llama材料的使用必須遵守適用的法律法規（包括貿易合規法律法規），並遵守Llama材料的《可接受使用政策》（可在https://llama.meta.com/llama3/use-policy 獲得），該政策特此通過引用併入本協議。
   • 您不得使用Llama材料或Llama材料的任何輸出或結果來改進任何其他大語言模型（不包括Meta Llama 3或其衍生作品）。

額外商業條款

如果在Meta Llama 3版本發佈日期，被許可方或被許可方的關聯公司提供的產品或服務的月活躍用戶在前一個日曆月超過7億，則您必須向Meta請求許可，Meta可自行決定是否授予您許可，並且在Meta明確授予您此類權利之前，您無權行使本協議下的任何權利。

免責聲明

除非適用法律要求，Llama材料及其任何輸出和結果均按“現狀”提供，不提供任何形式的保證，Meta否認所有形式的明示和暗示保證，包括但不限於所有權、不侵權、適銷性或特定用途適用性的任何保證。您獨自負責確定使用或再分發Llama材料的適當性，並承擔與您使用Llama材料及其任何輸出和結果相關的任何風險。

責任限制

在任何情況下，Meta或其關聯公司均不對因本協議引起的任何責任理論（無論是合同、侵權、疏忽、產品責任還是其他）承擔任何利潤損失或任何間接、特殊、後果性、偶發性、懲戒性或懲罰性損害賠償，即使Meta或其關聯公司已被告知此類損害賠償的可能性。

知識產權

1. 本協議未授予任何商標許可，關於Llama材料，除非在描述和再分發Llama材料的合理和慣常使用中或如本節5(a)所述，Meta和被許可方均不得使用對方或其任何關聯公司擁有或關聯的任何名稱或標記。Meta特此授予您僅為遵守第1.b.i條最後一句的要求而使用“Llama 3”（“標記”）的許可。您將遵守Meta的品牌指南（目前可在https://about.meta.com/brand/resources/meta/company-brand/ 訪問）。因您使用標記而產生的所有商譽將歸Meta所有。
2. 鑑於Meta對Llama材料及其為Meta製作的衍生作品的所有權，關於您製作的Llama材料的任何衍生作品和修改，在您和Meta之間，您是且將是此類衍生作品和修改的所有者。
3. 如果您對Meta或任何實體提起訴訟或其他程序（包括訴訟中的反訴或反請求），聲稱Llama材料或Meta Llama 3的輸出或結果，或上述任何部分構成侵犯您擁有或可許可的知識產權或其他權利，則本協議授予您的任何許可應自此類訴訟或請求提起之日起終止。您將賠償並使Meta免受因您使用或分發Llama材料而引起的或與之相關的任何第三方索賠。

期限和終止

本協議的期限將自您接受本協議或訪問Llama材料時開始，並將持續有效，直至根據本協議的條款和條件終止。如果您違反本協議的任何條款或條件，Meta可終止本協議。本協議終止後，您應刪除並停止使用Llama材料。第3、4和7條在本協議終止後仍然有效。

適用法律和管轄權

本協議將受加利福尼亞州法律管轄並依其解釋，不考慮法律選擇原則，並且《聯合國國際貨物銷售合同公約》不適用於本協議。加利福尼亞州的法院對因本協議引起的任何爭議具有專屬管轄權。

Meta Llama 3可接受使用政策

Meta致力於促進其工具和功能（包括Meta Llama 3）的安全和公平使用。如果您訪問或使用Meta Llama 3，您同意遵守本《可接受使用政策》（“政策”）。本政策的最新版本可在https://llama.meta.com/llama3/use-policy找到。

禁止使用

我們希望每個人都能安全、負責任地使用Meta Llama 3。您同意您不會使用或允許他人使用Meta Llama 3來：

1. 違反法律或他人權利
   • 從事、促進、生成、促成、鼓勵、策劃、煽動或進一步推動非法或違法活動或內容，例如：
     • 暴力或恐怖主義
     • 對兒童的剝削或傷害，包括招攬、創建、獲取或傳播兒童剝削內容或未能報告兒童性虐待材料
     • 人口販運、剝削和性暴力
     • 向未成年人非法分發信息或材料，包括淫穢材料，或未能對此類信息或材料採用法律要求的年齡限制
     • 性招攬
     • 任何其他犯罪活動
   • 從事、促進、煽動或便利對個人或個人群體的騷擾、虐待、威脅或欺凌
   • 從事、促進、煽動或便利在就業、就業福利、信貸、住房、其他經濟福利或其他基本商品和服務的提供方面的歧視或其他非法或有害行為
   • 從事未經授權或無執照的任何職業實踐，包括但不限於金融、法律、醫療/健康或相關專業實踐
   • 在未獲得適用法律要求的權利和同意的情況下，收集、處理、披露、生成或推斷個人的健康、人口統計或其他敏感個人或私人信息
   • 從事或便利任何侵犯、盜用或以其他方式侵犯任何第三方權利的行為或生成任何內容，包括使用Llama材料的任何產品或服務的輸出或結果
   • 創建、生成或便利創建惡意代碼、惡意軟件、計算機病毒或做任何其他可能禁用、使負擔過重、干擾或損害網站或計算機系統的正常工作、完整性、操作或外觀的事情
2. 從事、促進、煽動、便利或協助規劃或開展對個人造成死亡或身體傷害風險的活動，包括與以下方面相關的Meta Llama 3的使用：
   • 軍事、戰爭、核工業或應用、間諜活動、使用受美國國務院維護的《國際武器貿易條例》（ITAR）管制的材料或活動
   • 槍支和非法武器（包括武器開發）
   • 非法藥物和受管制/受控物質
   • 關鍵基礎設施、運輸技術或重型機械的操作
   • 自我傷害或傷害他人，包括自殺、自殘和飲食失調
   • 任何旨在煽動或促進對個人的暴力、虐待或任何身體傷害的內容
3. 故意欺騙或誤導他人，包括與以下方面相關的Meta Llama 3的使用：
   • 生成、促進或進一步推動欺詐或創建或促進虛假信息
   • 生成、促進或進一步推動誹謗性內容，包括創建誹謗性聲明、圖像或其他內容
   • 生成、促進或進一步分發垃圾郵件
   • 在未經同意、授權或合法權利的情況下冒充他人
   • 表示使用Meta Llama 3或其輸出是人類生成的
   • 生成或便利虛假的在線互動，包括虛假評論和其他虛假在線互動方式
4. 未能向最終用戶適當披露您的AI系統的任何已知危險

請通過以下方式之一報告本政策的任何違反行為、軟件“漏洞”或其他可能導致違反本政策的問題：

• 報告模型問題：https://github.com/meta-llama/llama3
• 報告模型生成的風險內容：developers.facebook.com/llama_output_feedback
• 報告漏洞和安全問題：facebook.com/whitehat/info
• 報告違反《可接受使用政策》或未經授權使用Meta Llama 3的情況：LlamaUseReport@meta.com

額外的許可字段信息

• 名字：文本輸入
• 姓氏：文本輸入
• 出生日期：日期選擇器
• 國家：國家選擇
• 所屬機構：文本輸入
• 地理位置：IP定位
• 勾選框：點擊下方的“提交”，即表示您接受許可條款，並確認您提供的信息將根據Meta隱私政策進行收集、存儲、處理和共享。
• 提交按鈕內容：提交

額外的許可描述

您提供的信息將根據Meta隱私政策進行收集、存儲、處理和共享。