（全球 TMT2024 年 7 月 24 日讯）亚马逊云科技宣布，Meta 刚刚发布的新一代 Llama 模型现已在 Amazon Bedrock 和 Amazon SageMaker 中提供。客户也可以在基于 Amazon Trainium 和 Amazon Inferentia 自研芯片的 Amazon Elastic Cloud Compute ( Amazon EC2 ) 实例中部署这些模型。

Llama 3.1 模型是一系列预训练和指令微调的大语言模型 ( LLMs ) ，支持 8B、70B 和 405B 三种尺寸，适用于广泛的使用场景。Meta 表示，Llama 3.1 405B 是目前最优秀和最大的开源基础模型之一，为生成式 AI 能力设立了新标准。它特别适用于合成数据生成和模型蒸馏，这能在后续训练中提升较小尺寸 Llama 模型的性能。Llama 3.1 405B 还在通用知识、数学、工具使用和多语言翻译方面有出色的表现。新的 Llama 3.1 模型支持 128K 的上下文长度，相较于 Llama 3 增加了 12 万个标记 ( Token ) ，模型容量是上一版本的 16 倍，并提升了在八种语言对话场景中的推理能力。