更新于 7 个月前
7 个月前
fb7068813a93 · 53GB
模型
架构llama
·
参数70.6B
·
量化Q5_1
53GB
许可
LLAMA 3.1 社区许可协议 Llama 3.1 版本发布日期:2024 年 7 月 23 日 “协议”
12kB
自述文件
Meta Llama 3.1
可用的 Llama 3.1 系列模型
- 8B
- 70B
- 405B
Llama 3.1 405B 是首个公开可用的模型,在通用知识、可控性、数学、工具使用和多语言翻译等方面的最先进能力方面可与顶级 AI 模型相媲美。
8B 和 70B 模型的升级版本是多语言的,并且具有 128K 的显着更长的上下文长度、最先进的工具使用以及总体上更强大的推理能力。 这使得 Meta 最新的模型能够支持高级用例,例如长篇文本摘要、多语言对话代理和编码助手。
Meta 还对其许可证进行了更改,允许开发人员使用 Llama 模型(包括 405B 模型)的输出来改进其他模型。
模型评估
对于此版本,Meta 评估了 150 多个基准数据集的性能,这些数据集涵盖了广泛的语言。 此外,Meta 进行了广泛的人工评估,将 Llama 3.1 与真实场景中的竞争模型进行了比较。 Meta 的实验评估表明,我们的旗舰模型在各种任务中(包括 GPT-4、GPT-4o 和 Claude 3.5 Sonnet)都与领先的基础模型具有竞争力。 此外,Meta 的较小模型与参数数量相似的封闭和开放模型相比也具有竞争力。