Llama 3.2 1B

🚀 Llama 3.2 多语言大语言模型

Llama 3.2是一系列多语言大语言模型，有1B和3B两种规格。它经过预训练和指令微调，在多语言对话、知识检索和总结等任务中表现出色，能为商业和研究领域提供强大支持。

🚀 快速开始

使用transformers库

从transformers >= 4.43.0版本开始，你可以使用Transformers的pipeline抽象或Auto类结合generate()函数进行对话推理。 确保通过pip install --upgrade transformers更新你的transformers库。

import torch
from transformers import pipeline

model_id = "meta-llama/Llama-3.2-1B"

pipe = pipeline(
    "text-generation", 
    model=model_id, 
    torch_dtype=torch.bfloat16, 
    device_map="auto"
)

pipe("The key to life is")

使用原始llama代码库

请遵循仓库中的说明。 要下载原始检查点，请参考以下使用huggingface-cli的示例命令：

huggingface-cli download meta-llama/Llama-3.2-1B --include "original/*" --local-dir Llama-3.2-1B

✨ 主要特性

• 多语言支持：官方支持英语、德语、法语、意大利语、葡萄牙语、印地语、西班牙语和泰语，且在更多语言上进行了训练。
• 高性能表现：在常见行业基准测试中，超越了许多可用的开源和闭源聊天模型。
• 多种规格可选：提供1B和3B两种规格的模型，适用于不同的计算资源和应用场景。
• 量化模型：专为计算资源有限的设备使用场景设计。

📦 安装指南

使用transformers库

确保通过以下命令更新你的transformers库：

pip install --upgrade transformers

💻 使用示例

基础用法

import torch
from transformers import pipeline

model_id = "meta-llama/Llama-3.2-1B"

pipe = pipeline(
    "text-generation", 
    model=model_id, 
    torch_dtype=torch.bfloat16, 
    device_map="auto"
)

pipe("The key to life is")

📚 详细文档

模型信息

属性	详情
模型开发者	Meta
模型架构	Llama 3.2是自回归语言模型，采用优化的Transformer架构。微调版本使用监督微调（SFT）和基于人类反馈的强化学习（RLHF）来符合人类对有用性和安全性的偏好。
支持语言	官方支持英语、德语、法语、意大利语、葡萄牙语、印地语、西班牙语和泰语。
模型发布日期	2024年9月25日
状态	这是一个基于离线数据集训练的静态模型，未来可能会发布改进模型能力和安全性的版本。
许可证	使用Llama 3.2受Llama 3.2社区许可证（自定义商业许可协议）的约束。

训练信息

训练因素

使用自定义训练库、Meta定制的GPU集群和生产基础设施进行预训练。微调、量化、注释和评估也在生产基础设施上进行。

训练能源使用

训练在H100 - 80GB（TDP为700W）类型的硬件上累计使用了916k GPU小时的计算资源。

训练温室气体排放

估计基于位置的总温室气体排放量为240吨CO2eq。自2020年以来，Meta在全球运营中保持净零温室气体排放，并以可再生能源匹配100%的电力使用，因此基于市场的总温室气体排放量为0吨CO2eq。

模型	训练时间（GPU小时）	对数生成时间（GPU小时）	训练功耗（W）	基于位置的训练温室气体排放（吨CO2eq）	基于市场的训练温室气体排放（吨CO2eq）
Llama 3.2 1B	370k	-	700	107	0
Llama 3.2 3B	460k	-	700	133	0
Llama 3.2 1B SpinQuant	1.7	0	700	可忽略不计*	0
Llama 3.2 3B SpinQuant	2.4	0	700	可忽略不计*	0
Llama 3.2 1B QLora	1.3k	0	700	0.381	0
Llama 3.2 3B QLora	1.6k	0	700	0.461	0
总计	833k	86k		240	0

注：Llama 3.2 1B SpinQuant和Llama 3.2 3B SpinQuant基于位置的CO2e排放量均小于0.001公吨，这是由于所需的训练GPU小时数极少。

训练数据

Llama 3.2在来自公开可用来源的多达9万亿个标记的数据上进行了预训练。对于1B和3B的Llama 3.2模型，在模型开发的预训练阶段纳入了Llama 3.1 8B和70B模型的对数，这些较大模型的输出（对数）被用作标记级目标。修剪后使用知识蒸馏来恢复性能。在训练后，采用了与Llama 3.1类似的方法，通过在预训练模型上进行几轮对齐来生成最终的聊天模型。每一轮都涉及监督微调（SFT）、拒绝采样（RS）和直接偏好优化（DPO）。

量化

量化方案

当前的量化方案是结合PyTorch的ExecuTorch推理框架和Arm CPU后端设计的，考虑了模型质量、预填充/解码速度和内存占用等指标。量化方案包括三个部分：

• 所有Transformer块中的所有线性层的权重被量化为4位分组方案（组大小为32），激活值被量化为8位每标记动态量化。
• 分类层的权重被量化为8位每通道，激活值被量化为8位每标记动态量化。
• 与分类层类似，嵌入层使用8位每通道量化。

量化感知训练和LoRA

使用低秩适应（LoRA）的量化感知训练（QAT）模型仅经过训练后阶段，使用与全精度模型相同的数据。为了初始化QAT，利用在监督微调（SFT）后获得的BF16 Llama 3.2模型检查点，并使用QAT进行额外的一轮完整的SFT训练。然后冻结QAT模型的主干，并对Transformer块内的所有层应用LoRA适配器进行另一轮SFT。同时，LoRA适配器的权重和激活值保持在BF16。由于我们的方法与Dettmers等人（2023）的QLoRA类似（即先量化后使用LoRA适配器），因此将此方法称为QLoRA。最后，使用直接偏好优化（DPO）对得到的模型（主干和LoRA适配器）进行微调。

SpinQuant

应用了SpinQuant以及生成式训练后量化（GPTQ）。对于SpinQuant旋转矩阵微调，使用WikiText 2数据集中序列长度为2048的800个样本进行了100次迭代优化。对于GPTQ，使用了同一数据集中相同序列长度的128个样本。

基准测试

英文文本基准测试

类别	基准测试	样本数	指标	Llama 3.2 1B	Llama 3.2 3B	Llama 3.1 8B
通用	MMLU	5	macro_avg/acc_char	32.2	58	66.7
	AGIEval English	3 - 5	average/acc_char	23.3	39.2	47.8
	ARC - Challenge	25	acc_char	32.8	69.1	79.7
阅读理解	SQuAD	1	em	49.2	67.7	77
	QuAC (F1)	1	f1	37.9	42.9	44.9
	DROP (F1)	3	f1	28.0	45.2	59.5
长上下文	Needle in Haystack	0	em	96.8	1	1

指令微调模型基准测试

| 能力 | 基准测试 | 样本数 | 指标 | Llama 3.2 1B bf16 | Llama 3.2 1B Vanilla PTQ** | Llama 3.2 1B Spin Quant | Llama 3.2 1B QLoRA | Llama 3.2 3B bf16 | Llama 3.2 3B Vanilla PTQ** | Llama 3.2 3B Spin Quant | Llama 3.2 3B QLoRA | Llama 3.1 8B | |------|------|------|------|------|------|------|------|------|------|------|------|------|------| | 通用 | MMLU | 5 | macro_avg/acc | 49.3 | 43.3 | 47.3 | 49.0 | 63.4 | 60.5 | 62 | 62.4 | 69.4 | | 重写 | Open - rewrite eval | 0 | micro_avg/rougeL | 41.6 | 39.2 | 40.9 | 41.2 | 40.1 | 40.3 | 40.8 | 40.7 | 40.9 | | 总结 | TLDR9+ (test) | 1 | rougeL | 16.8 | 14.9 | 16.7 | 16.8 | 19.0 | 19.1 | 19.2 | 19.1 | 17.2 | | 指令遵循 | IFEval | 0 | Avg(Prompt/Instruction acc Loose/Strict) | 59.5 | 51.5 | 58.4 | 55.6 | 77.4 | 73.9 | 73.5 | 75.9 | 80.4 | | 数学 | GSM8K (CoT) | 8 | em_maj1@1 | 44.4 | 33.1 | 40.6 | 46.5 | 77.7 | 72.9 | 75.7 | 77.9 | 84.5 | | | MATH (CoT) | 0 | final_em | 30.6 | 20.5 | 25.3 | 31.0 | 48.0 | 44.2 | 45.3 | 49.2 | 51.9 | | 推理 | ARC - C | 0 | acc | 59.4 | 54.3 | 57 | 60.7 | 78.6 | 75.6 | 77.6 | 77.6 | 83.4 | | | GPQA | 0 | acc | 27.2 | 25.9 | 26.3 | 25.9 | 32.8 | 32.8 | 31.7 | 33.9 | 32.8 | | | Hellaswag | 0 | acc | 41.2 | 38.1 | 41.3 | 41.5 | 69.8 | 66.3 | 68 | 66.3 | 78.7 | | 工具使用 | BFCL V2 | 0 | acc | 25.7 | 14.3 | 15.9 | 23.7 | 67.0 | 53.4 | 60.1 | 63.5 | 67.1 | | | Nexus | 0 | macro_avg/acc | 13.5 | 5.2 | 9.6 | 12.5 | 34.3 | 32.4 | 31.5 | 30.1 | 38.5 | | 长上下文 | InfiniteBench/En.QA | 0 | longbook_qa/f1 | 20.3 | N/A | N/A | N/A | 19.8 | N/A | N/A | N/A | 27.3 | | | InfiniteBench/En.MC | 0 | longbook_choice/acc | 38.0 | N/A | N/A | N/A | 63.3 | N/A | N/A | N/A | 72.2 | | | NIH/Multi - needle | 0 | recall | 75.0 | N/A | N/A | N/A | 84.7 | N/A | N/A | N/A | 98.8 | | 多语言 | MGSM (CoT) | 0 | em | 24.5 | 13.7 | 18.2 | 24.4 | 58.2 | 48.9 | 54.3 | 56.8 | 68.9 |

注：仅用于比较目的，该模型未发布。

多语言基准测试

类别	基准测试	语言	Llama 3.2 1B	Llama 3.2 1B Vanilla PTQ**	Llama 3.2 1B Spin Quant	Llama 3.2 1B QLoRA	Llama 3.2 3B	Llama 3.2 3B Vanilla PTQ**	Llama 3.2 3B Spin Quant	Llama 3.2 3B QLoRA	Llama 3.1 8B
通用	MMLU (5 - shot, macro_avg/acc)	葡萄牙语	39.8	34.9	38.9	40.2	54.5	50.9	53.3	53.4	62.1
		西班牙语	41.5	36.0	39.8	41.8	55.1	51.9	53.6	53.6	62.5
		意大利语	39.8	34.9	38.1	40.6	53.8	49.9	52.1	51.7	61.6
		德语	39.2	34.9	37.5	39.6	53.3	50.0	52.2	51.3	60.6
		法语	40.5	34.8	39.2	40.8	54.6	51.2	53.3	53.3	62.3
		印地语	33.5	30.0	32.1	34.0	43.3	40.4	42.0	42.1	50.9
		泰语	34.7	31.2	32.4	34.9	44.5	41.3	44.0	42.2	50.3

注：仅用于比较目的，该模型未发布。

推理时间

类别	解码（标记/秒）	首标记时间（秒）	预填充（标记/秒）	模型大小（PTE文件大小，MB）	内存大小（RSS，MB）
1B BF16（基线）	19.2	1.0	60.3	2358	3185
1B SpinQuant	50.2（2.6倍）	0.3（-76.9%）	260.5（4.3倍）	1083（-54.1%）	1921（-39.7%）
1B QLoRA	45.8（2.4倍）	0.3（-76.0%）	252.0（4.2倍）	1127（-52.2%）	2255（-29.2%）
3B BF16（基线）	7.6	3.0	21.2	6129	7419
3B SpinQuant	19.7（2.6倍）	0.7（-76.4%）	89.7（4.2倍）	2435（-60.3%）	3726（-49.8%）
3B QLoRA	18.5（2.4倍）	0.7（-76.1%）	88.8（4.2倍）	2529（-58.7%）	4060（-45.3%）

注：

• 性能测量使用基于adb二进制的方法。
• 在Android OnePlus 12设备上进行测量。
• 首标记时间（TTFT）在提示长度为64时测量。

责任与安全

负责任的部署

Llama是一种基础技术，旨在用于各种用例。Meta的Llama模型负责任部署的示例可在社区故事网页中找到。我们的方法是构建最有用的模型，通过使模型安全适应通用用例并解决一系列标准危害，让世界从技术力量中受益。然后，开发者可以根据自己的用例定制安全性，定义自己的策略，并在其Llama系统中部署必要的保障措施。Llama 3.2是按照负责任使用指南中概述的最佳实践开发的。

Llama 3.2指令模型

我们进行安全微调的主要目标是为研究社区提供一个有价值的资源，用于研究安全微调的鲁棒性，并为开发者提供一个随时可用、安全且强大的模型，用于各种应用，以减少开发者部署安全AI系统的工作量。我们实施了与Llama 3相同的安全缓解措施，你可以在Llama 3 论文中了解更多信息。

Llama 3.2系统

包括Llama 3.2在内的大语言模型并非设计为单独部署，而是应作为整体AI系统的一部分，根据需要配备额外的安全护栏。开发者在构建代理系统时应部署系统保障措施。保障措施是实现正确的有用性 - 安全性对齐以及减轻系统固有的安全和风险以及模型或系统与外部工具集成的关键。作为我们负责任发布方法的一部分，我们为社区提供了保障措施，开发者应将其与Llama模型或其他大语言模型一起部署，包括Llama Guard、Prompt Guard和Code Shield。我们所有的参考实现演示默认都包含这些保障措施，以便开发者可以立即从系统级安全中受益。

新功能和用例

Llama的发布通常会引入新功能，除了普遍适用于所有生成式AI用例的最佳实践外，还需要进行特定考虑。有关Llama 3.2也支持的先前版本功能，请参阅Llama 3.1模型卡片，因为这里也适用相同的考虑因素。

评估

我们构建了专门的对抗性评估数据集，并评估了由Llama模型和Purple Llama保障措施组成的系统，以过滤输入提示和输出响应。在上下文中评估应用程序很重要，我们建议为你的用例构建专门的评估数据集。

关键风险

除了上述安全工作外，我们还特别关注测量和/或减轻以下关键风险领域：

• CBRNE（化学、生物、放射、核和爆炸武器）：Llama 3.2 1B和3B模型是Llama 3.1的较小且能力较弱的衍生模型。对于Llama 3.1 70B和405B，为了评估与化学和生物武器扩散相关的风险，我们进行了提升测试，旨在评估使用Llama 3.1模型是否会显著提高恶意行为者使用这些类型武器策划或实施攻击的能力，并确定此类测试也适用于较小的1B和3B模型。
• 儿童安全：使用专家团队进行了儿童安全风险评估，以评估模型产生可能导致儿童安全风险的输出的能力，并通过微调提供任何必要和适当的风险缓解措施。我们利用这些专家红队会议，通过Llama 3模型开发扩大了评估基准的覆盖范围。对于Llama 3，我们使用基于目标的方法进行了新的深入会议，以评估模型在多个攻击向量上的风险，包括Llama 3训练的其他语言。我们还与内容专家合作进行红队练习，评估潜在违规内容，同时考虑特定市场的细微差别或经验。
• 网络攻击：对于Llama 3.1 405B，我们的网络攻击提升研究调查了大语言模型是否可以在技能水平和速度方面增强人类在黑客任务中的能力。我们的攻击自动化研究专注于评估大语言模型在网络攻击行动中作为自主代理的能力，特别是在勒索软件攻击的背景下。此评估与之前将大语言模型视为交互式助手的研究不同。主要目标是评估这些模型是否可以在没有人类干预的情况下有效地作为独立代理执行复杂的网络攻击。由于Llama 3.2的1B和3B模型比Llama 3.1 405B更小且能力更弱，我们大致认为对405B模型进行的测试也适用于Llama 3.2模型。

社区

• 行业合作伙伴关系：生成式AI安全需要专业知识和工具，我们相信开放社区的力量可以加速其发展。我们是开放联盟的积极成员，包括AI Alliance、Partnership on AI和MLCommons，积极为安全标准化和透明度做出贡献。我们鼓励社区采用MLCommons概念验证评估等分类法，以促进安全和内容评估的协作和透明度。我们的Purple Llama工具已开源，供社区使用，并广泛分布在包括云服务提供商在内的生态系统合作伙伴中。我们鼓励社区为我们的Github仓库做出贡献。
• 资助计划：我们还设立了Llama影响资助计划，以识别和支持Meta的Llama模型在教育、气候和开放创新三个类别中对社会有益的最有吸引力的应用。从数百份申请中选出的20名决赛选手可以在这里找到。
• 报告机制：最后，我们建立了一套资源，包括输出报告机制和漏洞赏金计划，以在社区的帮助下不断改进Llama技术。

伦理考虑和局限性

Llama 3.2的核心价值观是开放性、包容性和有用性。它旨在为每个人服务，并适用于广泛的用例。因此，它设计为对具有不同背景、经验和观点的人都可访问。Llama 3.2以用户的实际情况和需求为出发点，不插入不必要的判断或规范性，同时反映对用户的理解。

🔧 技术细节

模型架构

Llama 3.2是自回归语言模型，采用优化的Transformer架构。微调版本使用监督微调（SFT）和基于人类反馈的强化学习（RLHF）来符合人类对有用性和安全性的偏好。

量化方案

当前的量化方案结合了PyTorch的ExecuTorch推理框架和Arm CPU后端，考虑了模型质量、预填充/解码速度和内存占用等指标。具体包括：

• 所有Transformer块中的所有线性层的权重被量化为4位分组方案（组大小为32），激活值被量化为8位每标记动态量化。
• 分类层的权重被量化为8位每通道，激活值被量化为8位每标记动态量化。
• 与分类层类似，嵌入层使用8位每通道量化。

量化感知训练和LoRA

使用低秩适应（LoRA）的量化感知训练（QAT）模型仅经过训练后阶段，使用与全精度模型相同的数据。初始化QAT时，利用在监督微调（SFT）后获得的BF16 Llama 3.2模型检查点，并使用QAT进行额外的一轮完整的SFT训练。然后冻结QAT模型的主干，并对Transformer块内的所有层应用LoRA适配器进行另一轮SFT。同时，LoRA适配器的权重和激活值保持在BF16。由于方法与Dettmers等人（2023）的QLoRA类似，因此称为QLoRA。最后，使用直接偏好优化（DPO）对得到的模型（主干和LoRA适配器）进行微调。

SpinQuant

应用了SpinQuant以及生成式训练后量化（GPTQ）。对于SpinQuant旋转矩阵微调，使用WikiText 2数据集中序列长度为2048的800个样本进行了100次迭代优化。对于GPTQ，使用了同一数据集中相同序列长度的128个样本。

📄 许可证

使用Llama 3.2受Llama 3.2社区许可证（自定义商业许可协议）的约束。

Llama 3.2社区许可协议

协议概述

“协议”指的是本文规定的使用、复制、分发和修改Llama材料的条款和条件。“文档”指的是Meta在https://llama.meta.com/doc/overview 上分发的随Llama 3.2附带的规格、手册和文档。“被许可方”或“你”指的是你，或你的雇主，或任何其他个人或实体（如果你代表该个人或实体签订本协议），且该个人或实体达到适用法律、规则或法规要求的提供法律同意的年龄，并具有约束你的雇主或该其他个人或实体的法律权力（如果你代表他们签订本协议）。“Llama 3.2”指的是Meta在https://www.llama.com/llama-downloads 上分发的基础大语言模型、软件和算法，包括机器学习模型代码、训练好的模型权重、推理启用代码、训练启用代码、微调启用代码以及上述内容的其他元素。“Llama材料”指的是Meta根据本协议提供的专有Llama 3.2和文档（及其任何部分）。“Meta”或“我们”指的是Meta Platforms Ireland Limited（如果你位于欧洲经济区或瑞士，或者如果你是一个实体，你的主要营业地点在欧洲经济区或瑞士）和Meta Platforms, Inc.（如果你位于欧洲经济区或瑞士以外）。

许可权利和再分发

• 权利授予：你被授予在Meta体现在Llama材料中的知识产权或其他权利下的非排他性、全球性、不可转让且免版税的有限许可，以使用、复制、分发、拷贝、创作衍生作品并对Llama材料进行修改。
• 再分发和使用：
  • 如果你分发或提供Llama材料（或其任何衍生作品），或包含其中任何内容的产品或服务（包括另一个AI模型），你应（A）随任何此类Llama材料提供本协议的副本；（B）在相关网站、用户界面、博客文章、关于页面或产品文档上显著显示“Built with Llama”。如果你使用Llama材料或Llama材料的任何输出或结果来创建、训练、微调或以其他方式改进一个AI模型，并将其分发或提供，你还应在任何此类AI模型名称的开头包含“Llama”。
  • 如果你作为集成终端用户产品的一部分从被许可方处接收Llama材料或其任何衍生作品，则本协议第2条不适用于你。
  • 你必须在你分发的所有Llama材料副本中保留以下归属声明，该声明应包含在作为此类副本一部分分发的“Notice”文本文件中：“Llama 3.2 is licensed under the Llama 3.2 Community License, Copyright © Meta Platforms, Inc. All Rights Reserved.”
  • 你对Llama材料的使用必须遵守适用的法律和法规（包括贸易合规法律和法规），并遵守Llama材料的可接受使用政策（可在https://www.llama.com/llama3_2/use-policy 上获取），该政策特此通过引用并入本协议。

额外商业条款

如果在Llama 3.2版本发布日期，被许可方或被许可方的关联方提供的产品或服务在前一个日历月的月活跃用户数超过7亿，则你必须向Meta请求许可，Meta可自行决定是否授予你许可，并且在Meta明确授予你此类权利之前，你无权行使本协议下的任何权利。

保修免责声明

除非适用法律要求，Llama材料及其任何输出和结果按“原样”提供，不提供任何形式的保证，Meta免除所有明示和暗示的保证，包括但不限于所有权、不侵权、适销性或特定用途适用性的保证。你独自负责确定使用或再分发Llama材料的适当性，并承担与你使用Llama材料及其任何输出和结果相关的任何风险。

责任限制

在任何情况下，Meta或其关联方均不对因本协议引起的任何利润损失或任何间接、特殊、后果性、附带性、惩戒性或惩罚性损害承担责任，无论责任理论如何，即使Meta或其关联方已被告知此类损害的可能性。

知识产权

• 商标许可：本协议未授予任何商标许可，关于Llama材料，除非为描述和再分发Llama材料的合理和惯常使用所需，或如本节5(a)所述，Meta和被许可方均不得使用对方或其任何关联方拥有或关联的任何名称或标记。Meta特此授予你仅为遵守第1.b.i条最后一句的要求而使用“Llama”（“标记”）的许可。你将遵守Meta的品牌指南（目前可在https://about.meta.com/brand/resources/meta/company-brand/ 上获取）。因你使用标记而产生的所有商誉将归Meta所有。
• 衍生作品所有权：在Meta拥有Llama材料及其衍生作品的前提下，关于你对Llama材料所做的任何衍生作品和修改，在你和Meta之间，你是且将是此类衍生作品和修改的所有者。
• 诉讼终止许可：如果你对Meta或任何实体提起诉讼或其他程序（包括诉讼中的反诉或反请求），声称Llama材料或Llama 3.2的输出或结果，或上述任何部分构成侵犯你拥有或可许可的知识产权或其他权利，则本协议授予你的任何许可将自此类诉讼或请求提起之日起终止。你将赔偿并使Meta免受任何第三方因你使用或分发Llama材料而产生或与之相关的任何索赔。

期限和终止

本协议的期限将自你接受本协议或访问Llama材料之日起开始，并将持续有效，直至根据本协议的条款和条件终止。如果你违反本协议的任何条款或条件，Meta可终止本协议。本协议终止后，你应删除并停止使用Llama材料。第3、4和7条在本协议终止后仍然有效。

适用法律和管辖权

本协议将受加利福尼亚州法律管辖和解释，不考虑法律选择原则，《联合国国际货物销售合同公约》不适用于本协议。加利福尼亚州的法院对因本协议引起的任何争议具有专属管辖权。

Llama 3.2可接受使用政策

Meta致力于促进其工具和功能（包括Llama 3.2）的安全和公平使用。如果你访问或使用Llama 3.2，你同意本可接受使用政策（“政策”）。本政策的最新版本可在https://www.llama.com/llama3_2/use-policy上找到。

禁止使用

你同意不会使用或允许他人使用Llama 3.2进行以下行为：

• 违反法律或他人权利：
  • 从事、促进、生成、促成、鼓励、策划、煽动或进一步推动非法或违法活动或内容，例如：
    • 暴力或恐怖主义
    • 对儿童的剥削或伤害，包括招揽、创建、获取或传播儿童剥削内容或未报告儿童性虐待材料
    • 人口贩运、剥削和性暴力
    • 向未成年人非法分发信息或材料，包括淫秽材料，或未对此类信息或材料采用法律要求的年龄限制
    • 性招揽
    • 任何其他犯罪活动
  • 从事、促进、煽动或便利对个人或个人群体的骚扰、虐待、威胁或欺凌
  • 从事、促进、煽动或便利在就业、就业福利、信贷、住房、其他经济福利或其他基本商品和服务的提供方面的歧视或其他非法或有害行为
  • 从事未经授权或无执照的任何专业实践，包括但不限于金融、法律、医疗/健康或相关专业实践
  • 收集、处理、披露、生成或推断个人的私人或敏感信息，包括个人身份、健康或人口统计信息，除非你已根据适用法律获得这样做的权利
  • 从事或便利任何侵犯、盗用或以其他方式侵犯任何第三方权利的行为或生成任何内容，包括使用Llama材料的任何产品或服务的输出或结果
  • 创建、生成或便利创建恶意代码、恶意软件、计算机病毒或做任何可能禁用、负担过重、干扰或损害网站或计算机系统的正常运行、完整性、操作或外观的事情
  • 从事任何故意规避或移除使用限制或其他安全措施的行为，或启用Meta禁用的功能
• 从事有死亡或身体伤害风险的活动：
  • 军事、战争、核工业或应用、间谍活动、用于受美国国务院维护的《国际武器贸易条例》（ITAR）或1989年《美国生物武器反恐法》或1997年《化学武器公约实施法》约束的材料或活动
  • 枪支和非法武器（包括武器开发）
  • 非法药物和受管制/受控物质
  • 关键基础设施、运输技术或重型机械的操作
  • 自我伤害或伤害他人，包括自杀、切割和饮食失调
  • 任何旨在煽动或促进暴力、虐待或对个人造成身体伤害的内容
• 故意欺骗或误导他人：
  • 生成、促进或进一步推动欺诈或虚假信息的创建或推广
  • 生成、促进或进一步推动诽谤性内容，包括创建诽谤性声明、图像或其他内容
  • 生成、促进或进一步分发垃圾邮件
  • 在未经同意、授权或合法权利的情况下冒充他人
  • 表示使用Llama 3.2或其输出是人类生成的
  • 生成或便利虚假的在线参与，包括虚假评论和其他虚假在线参与方式
• 未向终端用户适当披露AI系统的已知危险
• 与旨在生成非法内容或从事非法或有害行为的第三方工具、模型或软件进行交互，并表示此类工具、模型或软件的输出与Meta或Llama 3.2相关联

对于Llama 3.2中包含的任何多模态模型，如果你是居住在欧盟的个人或主要营业地点在欧盟的公司，则本协议第1(a)条授予的权利不适用于你。此限制不适用于包含任何此类多模态模型的产品或服务的终端用户。

请通过以下方式之一报告本政策的任何违反行为、软件“漏洞”或其他可能导致违反本政策的问题：

• 报告模型问题：https://github.com/meta-llama/llama-models/issues
• 报告模型生成的风险内容：developers.facebook.com/llama_output_feedback
• 报告漏洞和安全问题：facebook.com/whitehat/info
• 报告可接受使用政策的违反行为或Llama 3.2的未经授权使用：LlamaUseReport@meta.com

⚠️ 重要提示

使用Llama 3.2时，请遵守适用的法律和法规，以及《可接受使用政策》和《Llama 3.2社区许可证》。禁止在超出本模型卡片明确支持的语言范围使用。

💡 使用建议

开发者在使用Llama 3.2时，应根据具体的应用场景和需求，选择合适的模型规格和量化方案。同时，为确保模型的安全使用，建议遵循Meta提供的安全保障措施和最佳实践。在进行模型微调时，可参考Llama 3.2的训练数据和方法，以获得更好的性能。