Llama 3.1 Instruct 70B

去对比

Llama 3.1 70B Instruct 是一个针对多语言对话场景优化的大规模语言模型。它在常见的行业基准测试中表现优于许多现有的开源和闭源聊天模型。

智力(较弱)

速度(较慢)

输入支持模态

否

是否推理模型

128,000

上下文窗口

128,000

最大输出令牌数

2023-12-01

知识截止

去对比

定价

￥1.44 /M tokens

输入

￥1.44 /M tokens

输出

￥5.47 /M tokens

混合价格

快速简易对比

输入

输出

Llama 4 Scout

￥0.08

Llama 4 Maverick

￥0.17

Llama 3.1 Instruct 405B

￥0.9

基础参数

Llama 3.1 Instruct 70B的技术参数

参数数量

70,000.0M

上下文长度

128.00k tokens

训练数据截止

2023-12-01

开源分类

Open Weights (Permissive License)

多模态支持

文本

吞吐量

1,204

发布日期

2024-07-23

响应速度

55.471,188 tokens/s

基准测试得分

以下是Llama 3.1 Instruct 70B在各种标准基准测试中的表现。这些测试评估了模型在不同任务和领域的能力。

智能指数

大语言模型智能水平

35.38

大语言模型智能水平

编码指数

AI模型在编码任务上的能力表现的指标

24.96

AI模型在编码任务上的能力表现的指标

数学指数

解决数学问题、数学推理或执行与数学相关的任务方面的能力指标

41.13

解决数学问题、数学推理或执行与数学相关的任务方面的能力指标

MMLU Pro

海量多任务多模式理解-测试对文本、图像、音频和视频的理解

67.6

海量多任务多模式理解-测试对文本、图像、音频和视频的理解

GPQA

研究生物理问题评估-用钻石科学级别的问题测试高级物理知识

40.9

研究生物理问题评估-用钻石科学级别的问题测试高级物理知识

HLE

模型在 Hugging Face Open LLM Leaderboard 上的综合平均得分

4.6

模型在 Hugging Face Open LLM Leaderboard 上的综合平均得分

LiveCodeBench

特定的、专注于评估大型语言模型在真实世界代码编写和解决编程竞赛问题能力评分

23.2

特定的、专注于评估大型语言模型在真实世界代码编写和解决编程竞赛问题能力评分

SciCode

模型在科学计算或特定科学领域的代码生成方面的能力

26.7

模型在科学计算或特定科学领域的代码生成方面的能力

HumanEval

AI模型在 HumanEval 这个特定的基准测试集上取得的成绩

81.2

AI模型在 HumanEval 这个特定的基准测试集上取得的成绩

Math 500 评分

前500道更大型、更知名的数学基准测试评分

64.9

前500道更大型、更知名的数学基准测试评分

AIME 评分

一个衡量AI模型在解决高难度数学竞赛问题（特指AIME级别）方面能力的指标

17.3

一个衡量AI模型在解决高难度数学竞赛问题（特指AIME级别）方面能力的指标

Gemini 2.0 Flash Lite (Preview)

Qwen2.5 Coder Instruct 32B

智启未来，您的人工智能解决方案智库