智东西 21小时前
亚马逊Agent全家桶爆更!连甩9个大招,锁定最强智能体平台
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

打造最强智能体平台,最大云巨头狂堆猛料。

作者 | ZeR0

编辑 | 漠影

智东西拉斯维加斯 12 月 3 日报道,在年度云计算盛会 AWS re:Invent 大会上,AWS Agentic AI 副总裁 Swami Sivasubramanian 发表主题演讲,详细阐述为什么是亚马逊云科技(AWS)构建和运行智能体的最佳选择,并发布多项智能体(agent)开发新工具。

Strands Agents SDK 智能体框架新增对 TypeScript 和边缘设备的支持,让智能体构建更轻松,并拓展至更广泛的汽车、游戏、机器人等边缘领域。

Amazon Bedrock AgentCore 智能体平台推出多项创新:策略功能支持团队为智能体的工具使用设定边界,评估功能帮助团队了解智能体在实际场景中的表现,情景记忆功能让智能体能够从经验中学习并持续优化。

Amazon Bedrock 全托管 AI 平台新增强化微调功能,提供自动化微调能力;Amazon SageMaker AI 平台新增模型定制功能,支持深度底层调整,简化高效 AI 的构建流程。

Amazon SageMaker HyperPod 新增的无检查点训练功能则实现了大规模、低成本的训练,整体目标是最大化客户在生产环境中这些工作负载的价值和投资回报率(ROI)。

此外,针对构建智能体可靠性的 Amazon Nova Act 服务,正式版全面可用,有助于实现智能体大规模生产部署。

01.

Strands Agents SDK 新增两大功能,

支持 TypeScript 和边缘设备

Strands Agents SDK 是一款开源、模型驱动的 AI 智能体框架,提供模型驱动编排,自发布以来下载量已达到 529.9 万次。

今日,亚马逊云科技宣布两项新功能:

一是支持 TypeScript(预览版)。TypeScript 是全球最受欢迎的编程语言之一,这将让全栈智能体应用的构建变得更加轻松。

Strands Agents 对 TypeScript 的核心特性提供全面支持,包括类型安全、async/await 异步语法,以及现代 JavaScript/TypeScript 编程范式。开发者可借助 AWS CDK(云开发工具包),全程使用 TypeScript 构建完整的智能体技术栈。

二是支持边缘设备。客户可通过 Strands Agents SDK 构建能在小型设备上运行的自主式 AI 智能体,落地汽车、游戏、机器人等领域的智能体应用场景,在现实世界中交付智能服务。

02.

Amazon Bedrock AgentCore 新增策略、评估、情景记忆功能,助力下一代智能体开发

将智能体引入生产困难重重,需要快速规模化部署智能体,记住过去交互和学习,识别和访问所有智能体和工具的控制,掌握用于执行复杂工作流的智能体工具使用,最后观察和调试问题。

而复杂性会拖慢创新。如何帮助客户大规模构建、部署安全的生产级智能体?这正是 Amazon Bedrock AgentCore 的核心价值所在。

Amazon Bedrock AgentCore 是一款专为安全、大规模构建和部署智能体而设计的智能体平台,兼容各类框架和模型,于今年 7 月在 AWS 纽约峰会上首次发布预览版,随后快速迭代,10 月已正式全面可用。

企业要将智能体从原型推向生产环境,需要一套安全、可靠、可扩展且适配智能体非确定性特性的专用基础设施。智能体需要动态扩展的底层支撑,能支持长期运行的工作负载,并可即时、安全地存储和检索上下文信息。

然而,当前早期采用者需要投入大量资源从零构建这类基础设施,过程耗时费力,严重拖慢开发周期。

Amazon Bedrock AgentCore 则通过提供全托管服务来解决这一挑战。它包含一系列关键组件,提供了大规模运行生产级智能体所需的种种,包括:

Runtime:无服务器、安全且隔离的运行时计算资源;

Observability:可观测性工具(开源且兼容 OpenTelemetry 协议),帮助客户了解智能体的运行状态;

Memory:记忆功能,让智能体能够长期与用户互动,记住过往交互内容,从而构建智能、个性化的应用;

Code Interpreter:代码解释器,让智能体能够通过编写代码访问以往无法使用的工具;

Gateway:网关功能,支持连接 AWS 内外系统;

Managed Browser 与 Identity:网络使用权限和身份认证功能,明确智能体的身份及其代表的主体,这与治理和可观测性密切相关。

客户既可以使用 Amazon Bedrock Agent 构建智能体,也可以结合任何开源智能体构建框架。目前该平台已获得广泛采用,迄今开发者下载量已超过 200 万次。

在此基础上,Bedrock AgentCore 新增两项新功能:

一是 Policy in AgentCore,策略功能,为智能体的操作设定明确边界。通过独立于智能体代码的实时确定性控制,主动拦截未授权的智能体操作。

企业只需用自然语言描述规则即可创建精细化策略,可以为智能体定义策略(可访问的工具和数据、可执行的操作、适用条件等),比如 " 当报销金额超过 1000 美元时,拒绝所有客户的退款申请 " 之类的策略。

这些策略会在智能体执行前进行评估,确保智能体始终在设定的规则边界内运行。

二是 AgentCore Evaluation,评估功能,帮助开发者基于智能体的行为持续检测其质量,确保其行为符合预期。

AgentCore 评估功能无需管理复杂基础设施,提供了 13 种预置评估器,覆盖正确性、实用性、工具选择准确性、安全性、目标达成率、上下文相关性等常见质量维度。开发者还可灵活使用自己偏好的大语言模型和提示词,编写自定义评估器。

三是 AgentCore Memory Episodic Functionality,情景记忆功能,自动保存交互过程中的关键事件和状态,助力智能体从过往经验中学习,提升决策水平。

它包含短期记忆和长期记忆。短期记忆用于记录当前的交互过程,帮助智能体了解与用户或操作者的实时互动状态;长期记忆用于追踪长期的交互历史。情景记忆则能在这些记忆基础上,叠加特定交互场景的上下文信息,让智能体能够给出更智能的建议。

举个实际例子:假设有一个预订智能体,你第一次使用时,它为你预订了车辆,并预留了 45 分钟的赶航班时间,但你当时因照顾家人和孩子而错过了航班,不得不重新预订。借助情景记忆,系统会记录下这次交互经历。

当你 6 个月后再次预订航班时,智能体将记得你需要更多的准备时间,会自动为你预留 2 小时的车辆预订窗口,而非 45 分钟。这一功能已深度集成到 AgentCore 中。

这些功能的核心目标,都是加速智能体从想法到大规模生产落地的进程。

03.

Amazon Bedrock 与 SageMaker AI 新功能:简化模型定制流程,构建更快速高效的智能体

随着智能体应用的普及和生产环境中模型规模的扩大,效率已成为客户必须关注的核心问题。企业客户在使用现成模型时面临一种挑战:这些模型功能强大,但往往未针对效率和规模进行优化,最终导致不必要的成本支出、响应速度变慢以及资源浪费。

而效率并不仅仅关乎成本,它涉及多个关键因素:延迟(智能体能否快速响应,实现实时互动)、扩展性(能否应对预期的高负载)、敏捷性(能否根据应用演进和客户交互快速迭代调整)。

解决这一问题的关键在于定制化:通过定制小型专用模型,处理智能体最常执行的工作,以更低成本实现更快、更精准的响应。

但在此之前,强化学习等先进定制技术需要深厚的机器学习专业知识、庞大的基础设施支持,且开发周期长达数月。

对此,亚马逊云科技宣布 Amazon Bedrock 与 Amazon SageMaker AI 推出全新功能,以便开发者运用先进的模型定制技术。

1、Reinforcement Fine-tuning in Amazon Bedrock:强化微调,提升模型准确率

亚马逊云科技宣布 Amazon Bedrock 的一项新的强化微调功能—— Reinforcement Fine-Tuning(RFT)。

该功能简化了模型定制流程,核心目标是让客户无需具备深厚的机器学习和 AI 模型开发专业知识,就能轻松提升模型准确率。

其相比基础模型平均可提升 66% 的准确率,帮助客户无需依赖庞大昂贵的模型,而是通过更小、更快、更具成本效益的模型,获得更优结果。

操作流程很简便:开发者选择基础模型,指定调用日志或上传数据集,选择奖励函数,然后 Amazon Bedrock 中的自动化工作流会全程处理微调流程,以最大化奖励函数的结果。

如此一来,客户无需专业知识,就能获得更贴合自身需求的定制化模型。

发布初期,Amazon Bedrock 强化微调功能将支持 Amazon Nova 2 Lite 模型,后续将逐步兼容更多模型。

2、Model Customization in Amazon SageMaker AI:模型速度更快、成本更低、准确率更高

还有一类客户是领域专家,希望对 AI 工作流拥有更多控制权。

虽然 Amazon Bedrock 的强化微调功能非常便捷,但部分客户希望深入底层进行自定义调整,因此亚马逊云科技在用于大规模训练和定制模型的平台 SageMaker AI 中新增了 Model Customization 深度模型定制功能。

SageMaker AI 自 2017 年推出以来,一直是客户进行 AI 和机器学习模型开发的核心平台。为了满足客户的深度定制需求,亚马逊云科技让这一过程在 SageMaker 中变得更加简单:客户无需管理基础设施,可为其生成合成数据,助力提升应用效果。

亚马逊云科技提供了两种体验模式:

一是智能体驱动模式(预览版):通过智能体引导开发者完成模型定制流程。客户用自然语言描述需求后,智能体将全程引导完成定制流程,从生成合成数据到模型评估无一不包。

二是自主引导模式:适合喜欢自主操作、希望获得精细化控制和灵活性的开发者。这种模式无需管理基础设施,同时提供合适的工具供开发者选择定制技术,并能调整相关参数。

通过这两种模式,开发者都能运用先进的定制技术,包括基于 AI 反馈的强化学习、带可验证奖励的强化学习、监督式微调及直接偏好优化。

SageMaker AI 新增功能将支持 Amazon Nova 以及 Llama、Qwen、DeepSeek、gpt-oss 等热门开源模型。

亚马逊云科技希望通过多样化的界面,为专业客户提供所需的全部功能、控制权和灵活性,让客户能够定制模型,以最低成本获得最佳性能,并根据自身专业水平和偏好的工作模式提供适配的解决方案。

04.

SageMaker HyperPod 无检查点训练:

数分钟内从模型训练故障中恢复

在与客户合作进行模型定制和训练的过程中,亚马逊云科技意识到仍有改进空间,模型训练成本高昂且流程繁琐。

通常,客户需要运行大型 GPU 集群,这些集群运行时成本不菲,闲置或故障时损失更大,无法开展有效工作。

为解决这一问题,亚马逊云科技开发了 Amazon SageMaker HyperPod。

它是 SageMaker 中的托管训练功能,是目前大规模模型训练成本最低的方案之一, 能最大化集群运行时间,让客户在进行训练和定制任务时,充分发挥集群的价值。

Amazon SageMaker HyperPod 简化了模型训练与部署的基础设施管理,最高可降低 40% 成本。当训练规模扩展至数百或数千个加速器时,可能会出现硬件或软件故障等问题。

传统基于检查点的恢复方式耗时最长可达 1 小时,不仅成本高昂、占用存储资源,还会导致价值数百万美元的计算集群在恢复期间处于闲置状态。

对此,亚马逊云科技宣布 SageMaker HyperPod 推出 Checkpointless Training 无检查点训练功能。

该功能无需人工干预,即可在数分钟内自动从基础设施故障中恢复,使包含成千上万张 AI 加速器的集群训练效率最高可达 95%。

对于大型长期运行的任务,重启和重跑极其痛苦。而无检查点训练彻底改变了这一模式:系统自动记录所有操作,若发生故障,可在几分钟内快速恢复,客户能迅速继续工作。

当故障发生时,系统会自动替换故障组件,并通过从邻近正常加速器进行模型和优化器状态的点对点传输来恢复训练。这一机制大幅缩短了停机时间。

这不仅降低了整体运营成本,还能让客户更快地将定制模型部署到生产环境。

它真正实现了,无论客户需要多大的规模,都能以简单、经济、可靠的方式完成训练。

05.

Amazon Nova Act 正式发布:

构建可靠智能体,实现 UI 工作流程自动化

当智能体应用和这些工作流部署运行后,可靠性就成为了核心要求。

每个企业都有希望自动化的流程,但他们需要的,是可预测、可靠、可规模化的自动化,而这一点靠企业自身很难实现。

为了简化这一过程,亚马逊云科技构建了一套端到端服务 Amazon Nova Act,帮助开发者构建、部署和管理大量可靠的智能体,实现生产环境用户界面(UI)工作流程的自动化。

企业使用智能体进行自动化时,通常都是针对屏幕和界面的自动化操作,而 Amazon Nova Act 的设计初衷就是让这类开发更简单,同时保障可靠性和规模化部署能力。

今年早些时候,亚马逊云科技发布了 Amazon Nova Act 研究预览版。为了将智能体投入生产环境,亚马逊构建了一个完全集成的解决方案,用于实现可用于生产环境的可靠浏览器自动化。

今日,Amazon Nova Act 正式版即日起全面可用。

该服务与 Amazon Nova、Bedrock 和 AgentCore 深度集成,让客户能够轻松构建可靠的智能体。它能够大规模地提供超过 90% 的任务可靠性,同时与其他 AI 框架相比,还能更快实现价值,并简化部署过程。

客户可在自己选择的任何开发环境中构建这些应用,系统支持部署大量并行的 UI 智能体,这些智能体依托模型,具备高可靠性。

Amazon Nova Act 基于定制的 Amazon Nova 2 Lite 模型,能够出色地驱动浏览器、支持 API 调用,并在必要时将问题升级至人工处理。该服务具备 Web 质量保证(QA)测试、数据录入、数据提取和结账流程等核心功能。

如今大多数模型都是独立训练的,与执行任务的协调器和执行器分离,这降低了可靠性。Amazon Nova Act 采用不同的方法,利用强化学习,让智能体在模拟真实世界用户界面的定制合成环境(Web Gym)中运行。

这种模型、协调器、工具和 SDK 的垂直集成,以及所有组件的同步训练,实现了规模化下更高的任务完成率。最终得到的智能体系统不仅偶尔有效,而且能够大规模可靠运行,并具备推理和适应变化的能力。

Amazon Nova Act 将适配客户使用的各种集成开发环境(IDE)。它是一套可扩展的框架,完全适配客户的开发习惯,同时让客户能够轻松实现大规模生产部署。其核心适用场景是任何需要自动化 UI 的场景。它包含一个动作模型,亚马逊云科技还针对该模型开发了大量 SDK 和工作流,用于操控 UI。

06.

结语:构建智能体的最佳平台,

亚马逊云科技志在必得

亚马逊云科技坚信生成式 AI 是人们正在经历的关键变革之一,将助力客户实现业务转型,并在未来数月、数年内普及开来。

当前,这家云巨头致力于成为客户构建智能体、实现业务自动化的最佳平台,不仅让开发过程更简单,还提供了安全、高弹性的基础架构,保障运营的领先性和世界级的基础设施,让客户能够按需定制所使用的基础设施和技术栈,从而获得理想的结果。

其平台提供了丰富的 AI 功能,内置负责任的 AI 机制,拥有支撑这些技术在现实世界发挥作用所需的数据资源,还依托全球最大的合作伙伴网络,使其客户可通过市场轻松获取各类智能体。

而亚马逊云科技会处理好各种底层复杂工作,助力企业及开发者通过生成式 AI 应用实现业务变革。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

机器人 亚马逊云 编程 aws 托管
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论