Llama 3.2 1B Instruct

🚀 Llama 3.2 多語言大語言模型

Llama 3.2是一系列多語言大語言模型，提供1B和3B兩種規格的預訓練和指令微調生成模型。這些模型針對多語言對話場景進行了優化，適用於信息檢索、摘要生成等任務，在行業基準測試中表現出色。

🚀 快速開始

本倉庫包含兩個版本的Llama-3.2-1B-Instruct，可分別與transformers庫和原始的llama代碼庫配合使用。

使用transformers庫

從transformers >= 4.43.0版本開始，你可以使用transformers庫的pipeline抽象或Auto類的generate()函數進行對話推理。

請確保通過以下命令更新transformers庫：

pip install --upgrade transformers

import torch
from transformers import pipeline

model_id = "meta-llama/Llama-3.2-1B-Instruct"
pipe = pipeline(
    "text-generation",
    model=model_id,
    torch_dtype=torch.bfloat16,
    device_map="auto",
)
messages = [
    {"role": "system", "content": "You are a pirate chatbot who always responds in pirate speak!"},
    {"role": "user", "content": "Who are you?"},
]
outputs = pipe(
    messages,
    max_new_tokens=256,
)
print(outputs[0]["generated_text"][-1])

更多關於如何在本地使用模型、使用torch.compile()、輔助生成、量化等詳細方法，請參考huggingface-llama-recipes。

使用原始llama代碼庫

請遵循倉庫中的說明進行操作。

使用以下命令下載原始檢查點：

huggingface-cli download meta-llama/Llama-3.2-1B-Instruct --include "original/*" --local-dir Llama-3.2-1B-Instruct

✨ 主要特性

• 多語言支持：官方支持英語、德語、法語、意大利語、葡萄牙語、印地語、西班牙語和泰語，並且在更廣泛的語言數據上進行了訓練。
• 優化架構：採用優化的Transformer架構，微調版本使用監督微調（SFT）和基於人類反饋的強化學習（RLHF），以符合人類對有用性和安全性的偏好。
• 多種規格：提供1B和3B兩種規格的模型，以及量化版本，適用於不同的計算資源和應用場景。

📦 安裝指南

使用transformers庫時，請確保通過以下命令更新transformers庫：

pip install --upgrade transformers

💻 使用示例

基礎用法

import torch
from transformers import pipeline

model_id = "meta-llama/Llama-3.2-1B-Instruct"
pipe = pipeline(
    "text-generation",
    model=model_id,
    torch_dtype=torch.bfloat16,
    device_map="auto",
)
messages = [
    {"role": "system", "content": "You are a pirate chatbot who always responds in pirate speak!"},
    {"role": "user", "content": "Who are you?"},
]
outputs = pipe(
    messages,
    max_new_tokens=256,
)
print(outputs[0]["generated_text"][-1])

高級用法

暫無高級用法示例，你可以參考huggingface-llama-recipes獲取更多詳細信息。

📚 詳細文檔

模型信息

屬性	詳情
模型開發者	Meta
模型架構	Llama 3.2是一種自迴歸語言模型，採用優化的Transformer架構。微調版本使用監督微調（SFT）和基於人類反饋的強化學習（RLHF）。
訓練數據	公開可用的在線數據，最多包含9萬億個標記。對於1B和3B的Llama 3.2模型，在預訓練階段融入了Llama 3.1 8B和70B模型的邏輯。
參數	1B（1.23B）和3B（3.21B）
輸入模態	多語言文本
輸出模態	多語言文本和代碼
上下文長度	128k（非量化版本），8k（量化版本）
GQA	是
共享嵌入	是
標記數量	最多9萬億個標記
知識截止日期	2023年12月
支持語言	英語、德語、法語、意大利語、葡萄牙語、印地語、西班牙語和泰語
模型發佈日期	2024年9月25日
狀態	基於離線數據集訓練的靜態模型，未來可能會發布改進版本。
許可證	Llama 3.2社區許可證
反饋	有關如何提供模型反饋或評論的說明，請參考Llama Models README。有關生成參數和如何在應用中使用Llama 3.2的更多技術信息，請訪問此處。

預期用途

• 預期用例：適用於多種語言的商業和研究用途。指令微調的純文本模型適用於類似助手的聊天和代理應用，如知識檢索、摘要生成、移動AI寫作助手以及查詢和提示重寫。預訓練模型可用於各種自然語言生成任務，量化模型適用於計算資源有限的設備端應用。
• 超出範圍：任何違反適用法律法規（包括貿易合規法律）的使用方式；違反可接受使用政策和Llama 3.2社區許可證的任何其他使用方式；使用本模型卡片中未明確支持的語言。

硬件和軟件

• 訓練因素：使用自定義訓練庫、Meta的自定義GPU集群和生產基礎設施進行預訓練。微調、量化、註釋和評估也在生產基礎設施上進行。
• 訓練能源使用：在H100 - 80GB（TDP為700W）類型的硬件上累計使用了91.6萬個GPU小時進行訓練。
• 訓練溫室氣體排放：估計基於位置的總溫室氣體排放量為240噸CO2eq，基於市場的總溫室氣體排放量為0噸CO2eq。

模型	訓練時間（GPU小時）	邏輯生成時間（GPU小時）	訓練功耗（W）	基於位置的訓練溫室氣體排放（噸CO2eq）	基於市場的訓練溫室氣體排放（噸CO2eq）
Llama 3.2 1B	370k	-	700	107	0
Llama 3.2 3B	460k	-	700	133	0
Llama 3.2 1B SpinQuant	1.7	0	700	可忽略不計	0
Llama 3.2 3B SpinQuant	2.4	0	700	可忽略不計	0
Llama 3.2 1B QLora	1.3k	0	700	0.381	0
Llama 3.2 3B QLora	1.6k	0	700	0.461	0
總計	833k	86k		240	0

確定訓練能源使用和溫室氣體排放的方法可參考此處。由於Meta公開發布這些模型，其他人不會產生訓練能源使用和溫室氣體排放。

訓練數據

Llama 3.2在最多9萬億個標記的公開可用數據上進行了預訓練。對於1B和3B的Llama 3.2模型，在預訓練階段融入了Llama 3.1 8B和70B模型的邏輯，剪枝後使用知識蒸餾恢復性能。在訓練後，採用與Llama 3.1類似的方法，通過多輪對齊生成最終的聊天模型，每輪包括監督微調（SFT）、拒絕採樣（RS）和直接偏好優化（DPO）。預訓練數據的截止日期為2023年12月。

量化

量化方案

當前的量化方案結合了PyTorch的ExecuTorch推理框架和Arm CPU後端，考慮了模型質量、預填充/解碼速度和內存佔用等指標。量化方案包括三個部分：

• 所有Transformer塊中的線性層權重量化為4位分組方案（組大小為32），激活值採用8位逐令牌動態量化。
• 分類層的權重量化為8位逐通道，激活值採用8位逐令牌動態量化。
• 嵌入層採用8位逐通道量化。

量化感知訓練和LoRA

量化感知訓練（QAT）與低秩自適應（LoRA）模型僅在訓練後階段進行，使用與全精度模型相同的數據。初始化QAT時，利用監督微調（SFT）後獲得的BF16 Llama 3.2模型檢查點，並進行額外一輪的SFT訓練。然後凍結QAT模型的主幹，對Transformer塊內的所有層應用LoRA適配器進行另一輪SFT訓練，同時將LoRA適配器的權重和激活值保持在BF16。最後，使用直接偏好優化（DPO）對生成的模型（包括主幹和LoRA適配器）進行微調。

SpinQuant

應用了SpinQuant和生成式訓練後量化（GPTQ）。對於SpinQuant旋轉矩陣微調，使用WikiText 2數據集中序列長度為2048的800個樣本進行100次迭代優化。對於GPTQ，使用相同數據集中相同序列長度的128個樣本。

基準測試 - 英文文本

基礎預訓練模型

類別	基準測試	樣本數量	指標	Llama 3.2 1B	Llama 3.2 3B	Llama 3.1 8B
通用	MMLU	5	macro_avg/acc_char	32.2	58	66.7
	AGIEval English	3 - 5	average/acc_char	23.3	39.2	47.8
	ARC - Challenge	25	acc_char	32.8	69.1	79.7
閱讀理解	SQuAD	1	em	49.2	67.7	77
	QuAC (F1)	1	f1	37.9	42.9	44.9
	DROP (F1)	3	f1	28.0	45.2	59.5
長上下文	Needle in Haystack	0	em	96.8	1	1

指令微調模型

能力	基準測試	樣本數量	指標	Llama 3.2 1B bf16	Llama 3.2 1B Vanilla PTQ**	Llama 3.2 1B Spin Quant	Llama 3.2 1B QLoRA	Llama 3.2 3B bf16	Llama 3.2 3B Vanilla PTQ**	Llama 3.2 3B Spin Quant	Llama 3.2 3B QLoRA	Llama 3.1 8B
通用	MMLU	5	macro_avg/acc	49.3	43.3	47.3	49.0	63.4	60.5	62	62.4	69.4
重寫	Open - rewrite eval	0	micro_avg/rougeL	41.6	39.2	40.9	41.2	40.1	40.3	40.8	40.7	40.9
摘要生成	TLDR9+ (test)	1	rougeL	16.8	14.9	16.7	16.8	19.0	19.1	19.2	19.1	17.2
指令遵循	IFEval	0	Avg(Prompt/Instruction acc Loose/Strict)	59.5	51.5	58.4	55.6	77.4	73.9	73.5	75.9	80.4
數學	GSM8K (CoT)	8	em_maj1@1	44.4	33.1	40.6	46.5	77.7	72.9	75.7	77.9	84.5
	MATH (CoT)	0	final_em	30.6	20.5	25.3	31.0	48.0	44.2	45.3	49.2	51.9
推理	ARC - C	0	acc	59.4	54.3	57	60.7	78.6	75.6	77.6	77.6	83.4
	GPQA	0	acc	27.2	25.9	26.3	25.9	32.8	32.8	31.7	33.9	32.8
	Hellaswag	0	acc	41.2	38.1	41.3	41.5	69.8	66.3	68	66.3	78.7
工具使用	BFCL V2	0	acc	25.7	14.3	15.9	23.7	67.0	53.4	60.1	63.5	67.1
	Nexus	0	macro_avg/acc	13.5	5.2	9.6	12.5	34.3	32.4	31.5	30.1	38.5
長上下文	InfiniteBench/En.QA	0	longbook_qa/f1	20.3	N/A	N/A	N/A	19.8	N/A	N/A	N/A	27.3
	InfiniteBench/En.MC	0	longbook_choice/acc	38.0	N/A	N/A	N/A	63.3	N/A	N/A	N/A	72.2
	NIH/Multi - needle	0	recall	75.0	N/A	N/A	N/A	84.7	N/A	N/A	N/A	98.8
多語言	MGSM (CoT)	0	em	24.5	13.7	18.2	24.4	58.2	48.9	54.3	56.8	68.9

注：**僅用於比較目的，該模型未發佈。

多語言基準測試

類別	基準測試	語言	Llama 3.2 1B	Llama 3.2 1B Vanilla PTQ**	Llama 3.2 1B Spin Quant	Llama 3.2 1B QLoRA	Llama 3.2 3B	Llama 3.2 3B Vanilla PTQ**	Llama 3.2 3B Spin Quant	Llama 3.2 3B QLoRA	Llama 3.1 8B
通用	MMLU (5-shot, macro_avg/acc)	葡萄牙語	39.8	34.9	38.9	40.2	54.5	50.9	53.3	53.4	62.1
		西班牙語	41.5	36.0	39.8	41.8	55.1	51.9	53.6	53.6	62.5
		意大利語	39.8	34.9	38.1	40.6	53.8	49.9	52.1	51.7	61.6
		德語	39.2	34.9	37.5	39.6	53.3	50.0	52.2	51.3	60.6
		法語	40.5	34.8	39.2	40.8	54.6	51.2	53.3	53.3	62.3
		印地語	33.5	30.0	32.1	34.0	43.3	40.4	42.0	42.1	50.9
		泰語	34.7	31.2	32.4	34.9	44.5	41.3	44.0	42.2	50.3

注：**僅用於比較目的，該模型未發佈。

推理時間

下表比較了不同量化方法（SpinQuant和QAT + LoRA）與BF16基線的性能指標。評估使用ExecuTorch框架作為推理引擎，以ARM CPU為後端，在Android OnePlus 12設備上進行。

類別	解碼速度（令牌/秒）	首令牌生成時間（秒）	預填充速度（令牌/秒）	模型大小（PTE文件大小，MB）	內存大小（RSS，MB）
1B BF16（基線）	19.2	1.0	60.3	2358	3185
1B SpinQuant	50.2（2.6倍）	0.3（-76.9%）	260.5（4.3倍）	1083（-54.1%）	1921（-39.7%）
1B QLoRA	45.8（2.4倍）	0.3（-76.0%）	252.0（4.2倍）	1127（-52.2%）	2255（-29.2%）
3B BF16（基線）	7.6	3.0	21.2	6129	7419
3B SpinQuant	19.7（2.6倍）	0.7（-76.4%）	89.7（4.2倍）	2435（-60.3%）	3726（-49.8%）
3B QLoRA	18.5（2.4倍）	0.7（-76.1%）	88.8（4.2倍）	2529（-58.7%）	4060（-45.3%）

注：

• 解碼速度（令牌/秒）表示持續生成的速度，數值越高越好。
• 首令牌生成時間（TTFT）表示為給定提示生成第一個令牌的速度，數值越低越好。
• 預填充速度是TTFT的倒數（即1/TTFT），單位為令牌/秒，數值越高越好。
• 模型大小通過ExecuTorch的二進制文件格式PTE文件來衡量。
• RSS大小表示駐留集大小（RSS）的內存使用情況。

🔧 技術細節

責任與安全

Meta採用三管齊下的策略來管理信任和安全風險：

1. 使開發者能夠為其目標受眾和Llama支持的用例部署有用、安全和靈活的體驗。
2. 保護開發者免受試圖利用Llama功能造成潛在危害的惡意用戶的攻擊。
3. 為社區提供保護，防止模型被濫用。

負責任的部署

• 方法：Llama是一種基礎技術，可用於多種用例。Meta的Llama模型負責任部署的示例可在社區故事網頁上找到。Meta的方法是構建最有用的模型，通過使模型安全適用於通用用例並解決一系列標準危害，讓世界從技術力量中受益。開發者可以根據自己的用例定製安全策略，並在其Llama系統中部署必要的保障措施。Llama 3.2的開發遵循了負責任使用指南中概述的最佳實踐。
• Llama 3.2 Instruct：安全微調的主要目標是為研究社區提供研究安全微調魯棒性的有價值資源，併為開發者提供一個隨時可用、安全且強大的模型，以減少部署安全AI系統的工作量。實施了與Llama 3相同的安全緩解措施，更多信息可參考Llama 3 論文。採用多方面的數據收集方法，結合供應商提供的人工生成數據和合成數據，以減輕潛在的安全風險。開發了許多基於大語言模型（LLM）的分類器，以精心選擇高質量的提示和響應，提高數據質量控制。在Llama 3的基礎上，更加註重模型對良性提示的拒絕以及拒絕語氣。在安全數據策略中包括了邊界和對抗性提示，並修改了安全數據響應以遵循語氣指南。
• Llama 3.2系統：大型語言模型（包括Llama 3.2）不應單獨部署，而應作為整體AI系統的一部分，並根據需要添加額外的安全護欄。開發者在構建代理系統時應部署系統保障措施。保障措施對於實現有用性和安全性的正確平衡以及減輕系統固有的安全和風險至關重要。作為負責任發佈方法的一部分，Meta為社區提供了保障措施，開發者應將其與Llama模型或其他LLM一起部署，包括Llama Guard、Prompt Guard和Code Shield。所有參考實現演示默認包含這些保障措施，以便開發者可以直接受益於系統級安全。

新功能和用例

• 技術進步：Llama的發佈通常會引入新功能，除了適用於所有生成式AI用例的最佳實踐外，還需要進行特定考慮。對於Llama 3.2也支持的先前版本的功能，請參考Llama 3.1模型卡片，因為同樣的考慮因素也適用於此處。
• 受限環境：Llama 3.2 1B和3B模型預計將部署在高度受限的環境中，如移動設備。使用較小模型的LLM系統與更復雜、更大的系統相比，將具有不同的對齊配置文件和安全性/有用性權衡。開發者應確保其系統的安全性滿足其用例的要求。建議為此類用例使用更輕量級的系統保障措施，如Llama Guard 3 - 1B或其針對移動設備優化的版本。

評估

• 大規模評估：構建了專門的對抗性評估數據集，並評估了由Llama模型和Purple Llama保障措施組成的系統，以過濾輸入提示和輸出響應。在上下文中評估應用程序很重要，建議為你的用例構建專門的評估數據集。
• 紅隊測試：定期進行紅隊測試，目標是通過對抗性提示發現風險，並利用這些經驗教訓改進基準測試和安全調整數據集。早期與關鍵風險領域的主題專家合作，瞭解這些現實世界危害的性質以及此類模型如何可能對社會造成意外危害。根據這些對話，為紅隊制定了一組對抗性目標，例如提取有害信息或重新編程模型以潛在地造成危害。紅隊成員包括網絡安全、對抗性機器學習、負責任AI和內容完整性方面的專家，以及具有特定地理市場內容完整性問題背景的多語言內容專家。

關鍵風險

除了上述安全工作外，Meta還特別關注測量和/或減輕以下關鍵風險領域：

• CBRNE（化學、生物、放射、核和爆炸武器）：Llama 3.2 1B和3B模型是Llama 3.1的較小且能力較弱的衍生模型。對於Llama 3.1 70B和405B，為了評估與化學和生物武器擴散相關的風險，進行了提升測試，以評估使用Llama 3.1模型是否會顯著提高惡意行為者計劃或實施使用此類武器的攻擊的能力，並確定此類測試也適用於較小的1B和3B模型。
• 兒童安全：使用專家團隊進行兒童安全風險評估，以評估模型產生可能導致兒童安全風險的輸出的能力，並通過微調提供必要和適當的風險緩解措施。利用這些專家紅隊測試會話，在Llama 3模型開發過程中擴大評估基準的覆蓋範圍。對於Llama 3，使用基於目標的方法進行了新的深入會話，以評估模型在多個攻擊向量上的風險，包括Llama 3訓練的其他語言。還與內容專家合作進行紅隊測試，評估潛在違規內容，同時考慮特定市場的細微差別或經驗。
• 網絡攻擊：對於Llama 3.1 405B，網絡攻擊提升研究調查了LLM是否可以在技能水平和速度方面增強人類在黑客任務中的能力。攻擊自動化研究專注於評估LLM作為自主代理在網絡攻擊行動中的能力，特別是在勒索軟件攻擊的背景下。此評估與之前將LLM視為交互式助手的研究不同，主要目標是評估這些模型是否可以在沒有人類干預的情況下有效作為獨立代理執行復雜的網絡攻擊。由於Llama 3.2的1B和3B模型比Llama 3.1 405B更小且能力較弱，Meta普遍認為對405B模型進行的測試也適用於Llama 3.2模型。

社區

• 行業合作：生成式AI安全需要專業知識和工具，Meta相信開放社區的力量可以加速其發展。Meta是開放聯盟的積極成員，包括AI聯盟、AI合作組織和MLCommons，積極為安全標準化和透明度做出貢獻。鼓勵社區採用MLCommons概念驗證評估等分類法，以促進安全和內容評估的合作和透明度。Meta的Purple Llama工具已開源，供社區使用，並廣泛分發給包括雲服務提供商在內的生態系統合作伙伴。鼓勵社區為Github倉庫做出貢獻。
• 資助計劃：Meta設立了Llama影響資助計劃，以識別和支持Meta的Llama模型在教育、氣候和開放創新三個類別中對社會有益的最有吸引力的應用。數百份申請中的20名決賽選手可在此處找到。
• 報告機制：Meta建立了一套資源，包括輸出報告機制和漏洞賞金計劃，以不斷改進Llama模型。

📄 許可證

使用Llama 3.2受Llama 3.2社區許可證（自定義商業許可協議）的約束。

Llama 3.2社區許可協議

協議概述

本協議規定了Llama 3.2材料的使用、複製、分發和修改的條款和條件。

定義

• 協議：指本協議中規定的Llama材料的使用、複製、分發和修改的條款和條件。
• 文檔：指Meta在https://llama.meta.com/doc/overview 上分發的與Llama 3.2相關的規格、手冊和文檔。
• 被許可方或您：指您本人，或您的僱主，或任何其他個人或實體（如果您代表該個人或實體簽訂本協議），且該個人或實體達到適用法律法規要求的提供法律同意的年齡，並具有約束您的僱主或該其他個人或實體的法律權力。
• Llama 3.2：指Meta在https://www.llama.com/llama-downloads 上分發的基礎大語言模型、軟件和算法，包括機器學習模型代碼、訓練好的模型權重、推理啟用代碼、訓練啟用代碼、微調啟用代碼以及上述內容的其他元素。
• Llama材料：指Meta根據本協議提供的專有Llama 3.2和文檔（及其任何部分）的統稱。
• Meta或我們：指Meta Platforms Ireland Limited（如果您位於歐洲經濟區或瑞士，或者您是一家主要營業地位於歐洲經濟區或瑞士的實體）和Meta Platforms, Inc.（如果您位於歐洲經濟區或瑞士以外）。

許可權利和再分發

• 權利授予：您被授予在Meta的知識產權或其他權利下，對Llama材料進行非排他性、全球性、不可轉讓和免版稅的有限許可，包括使用、複製、分發、拷貝、創作衍生作品和修改Llama材料的權利。
• 再分發和使用：
  • 如果您分發或提供Llama材料（或其任何衍生作品），或包含這些材料的產品或服務（包括其他AI模型），您應（A）隨任何此類Llama材料提供本協議的副本；（B）在相關網站、用戶界面、博客文章、關於頁面或產品文檔上顯著顯示“Built with Llama”。如果您使用Llama材料或其任何輸出或結果來創建、訓練、微調或以其他方式改進一個AI模型，並進行分發或提供，您還應在任何此類AI模型名稱的開頭包含“Llama”。
  • 如果您作為集成終端用戶產品的一部分從被許可方處接收Llama材料或其任何衍生作品，則本協議第2條不適用於您。
  • 您必須在分發的所有Llama材料副本中，在作為副本一部分分發的“Notice”文本文件中保留以下歸屬聲明：“Llama 3.2 is licensed under the Llama 3.2 Community License, Copyright © Meta Platforms, Inc. All Rights Reserved.”
  • 您對Llama材料的使用必須符合適用的法律法規（包括貿易合規法律法規），並遵守Llama材料的可接受使用政策（可在https://www.llama.com/llama3_2/use-policy 上獲取），該政策特此通過引用併入本協議。

額外商業條款

如果在Llama 3.2版本發佈日期，被許可方或其附屬公司提供的產品或服務的月活躍用戶在前一個日曆月超過7億，則您必須向Meta請求許可，Meta可自行決定是否授予您許可。在Meta明確授予您此類權利之前，您無權行使本協議下的任何權利。

免責聲明

除非適用法律要求，Llama材料及其任何輸出和結果均按“現狀”提供，不提供任何形式的保證。Meta明確放棄所有明示和暗示的保證，包括但不限於所有權、不侵權、適銷性或特定用途適用性的保證。您獨自負責確定使用或再分發Llama材料的適當性，並承擔與使用Llama材料及其任何輸出和結果相關的任何風險。

責任限制

在任何情況下，Meta或其附屬公司均不對因本協議引起的任何利潤損失或任何間接、特殊、後果性、偶發性、示範性或懲罰性損害承擔責任，無論責任理論如何，即使Meta或其附屬公司已被告知此類損害的可能性。

知識產權

• 商標許可：本協議未授予任何商標許可。與Llama材料相關，除非本協議第5(a)條規定或在描述和再分發Llama材料時進行合理和慣常使用所需，否則Meta和被許可方均不得使用對方或其任何附屬公司擁有或關聯的任何名稱或標記。Meta特此授予您僅在遵守第1.b.i條最後一句的要求時使用“Llama”（“標記”）的許可。您將遵守Meta的品牌指南（目前可在https://about.meta.com/brand/resources/meta/company-brand/ 上獲取）。因您使用標記而產生的所有商譽將歸Meta所有。
• 衍生作品所有權：在Meta擁有Llama材料及其衍生作品的前提下，就您對Llama材料所做的任何衍生作品和修改而言，您是且將是此類衍生作品和修改的所有者。
• 侵權訴訟：如果您對Meta或任何實體提起訴訟或其他法律程序（包括訴訟中的反訴或反請求），聲稱Llama材料或Llama 3.2的輸出或結果，或上述任何部分構成侵犯您擁有或可許可的知識產權或其他權利，則本協議授予您的任何許可將自此類訴訟或請求提起之日起終止。您將賠償並使Meta免受任何第三方因您使用或分發Llama材料而產生或與之相關的索賠。

期限和終止

本協議的期限自您接受本協議或訪問Llama材料之日起開始，並將持續有效，直至根據本協議的條款和條件終止。如果您違反本協議的任何條款或條件，Meta有權終止本協議。本協議終止後，您應刪除並停止使用Llama材料。第3條、第4條和第7條在本協議終止後仍然有效。

適用法律和管轄權

本協議將受加利福尼亞州法律管轄並依其解釋，不考慮法律選擇原則，《聯合國國際貨物銷售合同公約》不適用於本協議。加利福尼亞州的法院對因本協議引起的任何爭議具有專屬管轄權。

Llama 3.2可接受使用政策

Meta致力於促進其工具和功能（包括Llama 3.2）的安全和公平使用。如果您訪問或使用Llama 3.2，您同意遵守本可接受使用政策（“政策”）。本政策的最新版本可在https://www.llama.com/llama3_2/use-policy上找到。

禁止使用情況

• 違反法律或他人權利：
  • 從事、促進、生成、促成、鼓勵、策劃、煽動或進一步推動非法或違法活動或內容，例如：
    • 暴力或恐怖主義
    • 對兒童的剝削或傷害，包括招攬、創建、獲取或傳播兒童剝削內容，或未能報告兒童性虐待材料
    • 人口販運、剝削和性暴力
    • 向未成年人非法分發信息或材料，包括淫穢材料，或未能對此類信息或材料實施法律要求的年齡限制
    • 性招攬
    • 任何其他犯罪活動
  • 從事、促進、煽動或便利對個人或群體的騷擾、虐待、威脅或欺凌
  • 從事、促進、煽動或便利在就業、就業福利、信貸、住房、其他經濟福利或其他基本商品和服務的提供中進行歧視或其他非法或有害行為
  • 從事未經授權或無執照的任何專業實踐，包括但不限於金融、法律、醫療/健康或相關專業實踐
  • 收集、處理、披露、生成或推斷個人的私人或敏感信息，包括個人身份、健康或人口統計信息，除非您已根據適用法律獲得這樣做的權利
  • 從事或便利任何侵犯、挪用或以其他方式侵犯任何第三方權利的行為或生成任何內容，包括使用Llama材料的任何產品或服務的輸出或結果
  • 創建、生成或便利創建惡意代碼、惡意軟件、計算機病毒，或做任何可能禁用、負擔過重、干擾或損害網站或計算機系統的正常運行、完整性、操作或外觀的事情
  • 從事任何故意規避或移除使用限制或其他安全措施的行為，或啟用Meta禁用的功能
• 從事可能導致人員死亡或身體傷害的活動：
  • 軍事、戰爭、核工業或應用、間諜活動，用於受美國國務院維護的《國際武器貿易條例》（ITAR）或1989年《美國生物武器反恐法》或1997年《化學武器公約實施法》約束的材料或活動
  • 槍支和非法武器（包括武器開發）
  • 非法藥物和受管制/受控物質
  • 關鍵基礎設施、運輸技術或重型機械的操作
  • 自我傷害或傷害他人，包括自殺、切割和飲食失調
  • 任何旨在煽動或促進暴力、虐待或對個人造成身體傷害的內容
• 故意欺騙或誤導他人：
  • 生成、促進或進一步推動欺詐或虛假信息的創建或傳播
  • 生成、促進或進一步推動誹謗性內容，包括創建誹謗性聲明、圖像或其他內容
  • 生成、促進或進一步分發垃圾郵件
  • 在未經同意、授權或合法權利的情況下冒充他人
  • 聲稱使用Llama 3.2或其輸出是人類生成的
  • 生成或促進虛假的在線互動，包括虛假評論和其他虛假在線互動方式
• 未能向最終用戶適當披露AI系統的已知危險
• 與旨在生成非法內容或從事非法或有害行為的第三方工具、模型或軟件進行交互，並/或聲稱此類工具、模型或軟件的輸出與Meta或Llama 3.2相關聯

多模態模型限制

對於Llama 3.2中包含的任何多模態模型，如果您是居住在歐盟的個人，或主要營業地位於歐盟的公司，則本協議第1(a)條授予的權利不適用於您。此限制不適用於包含任何此類多模態模型的產品或服務的最終用戶。

報告違規行為

請通過以下方式報告任何違反本政策、軟件“漏洞”或其他可能導致違反本政策的問題：

• 報告模型問題：https://github.com/meta-llama/llama-models/issues
• 報告模型生成的風險內容：developers.facebook.com/llama_output_feedback
• 報告漏洞和安全問題：facebook.com/whitehat/info
• 報告違反可接受使用政策或未經授權使用Llama 3.2的情況：LlamaUseReport@meta.com