Llama 3.1 是 Meta 的一款最新的模型,提供 8B、70B 和 405B 三种参数规模。
工具 8b 70b 405b
26.7M 拉取次数 更新于 3 个月前
更新于 6 个月前
6 个月前
1201b5de8650 · 50GB
模型
架构llama
·
参数量70.6B
·
量化Q5_K_M
50GB
参数
{ "stop": [ "<|start_header_id|>", "<|end_header_id|>", "<|eot_id|>"
96B
模板
{{- if or .System .Tools }}<|start_header_id|>system<|end_header_id|> {{- if .System }} {{ .System
1.5kB
许可
LLAMA 3.1 COMMUNITY LICENSE AGREEMENT Llama 3.1 Version Release Date: July 23, 2024 “Agreement”
12kB
自述文件
Meta Llama 3.1
可用的 Llama 3.1 模型系列
- 8B
- 70B
- 405B
Llama 3.1 405B 是首个公开可用的模型,在通用知识、可控性、数学、工具使用和多语言翻译方面可以媲美顶级 AI 模型。
升级后的 8B 和 70B 模型是多语言的,并且具有显着更长的 128K 上下文长度、最先进的工具使用以及更强的整体推理能力。 这使得 Meta 最新的模型能够支持高级用例,例如长文本摘要、多语言对话代理和编码助手。
Meta 还修改了他们的许可协议,允许开发人员使用 Llama 模型(包括 405B 模型)的输出,以改进其他模型。
模型评估
对于此版本,Meta 已经评估了超过 150 个基准数据集的性能,这些数据集涵盖了广泛的语言。 此外,Meta 进行了广泛的人工评估,将 Llama 3.1 与现实场景中的竞争模型进行了比较。 Meta 的实验评估表明,我们的旗舰模型在包括 GPT-4、GPT-4o 和 Claude 3.5 Sonnet 在内的一系列任务中,具有与领先的基础模型竞争的能力。 此外,Meta 较小的模型可以与参数数量相似的封闭和开放模型竞争。