Llama 3.1 是 Meta 最新的先进模型,提供 8B、70B 和 405B 参数大小的版本。

工具 8b 70b 405b

26.7M 3 个月前

自述文件

Meta Llama 3.1

image.png

Llama 3.1 系列模型可用

  • 8B
  • 70B
  • 405B

Llama 3.1 405B 是首个公开发布的模型,在通用知识、可控性、数学、工具使用和多语言翻译方面可以与顶级人工智能模型相媲美。

升级后的 8B 和 70B 模型是多语言的,并且具有显著更长的 128K 上下文长度、最先进的工具使用以及总体上更强的推理能力。 这使得 Meta 的最新模型能够支持高级用例,例如长文本摘要、多语言会话代理和编码助手。

Meta 还对其许可证进行了更改,允许开发人员使用 Llama 模型(包括 405B 模型)的输出来改进其他模型。

模型评估

对于此版本,Meta 在涵盖多种语言的 150 多个基准数据集上评估了性能。 此外,Meta 进行了广泛的人工评估,比较了 Llama 3.1 在实际场景中与竞争模型的比较。 Meta 的实验评估表明,我们的旗舰模型在包括 GPT-4、GPT-4o 和 Claude 3.5 Sonnet 在内的一系列任务中与领先的基础模型具有竞争力。 此外,Meta 较小的模型在参数数量相似的情况下与封闭和开放模型具有竞争力。

image.png

image.png

image.png

参考文献