新浪财经 09-29
OpenAI紧急叫停GPT-6.1 Astra发布:更强了,但也更会‘欺骗
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

来源:环球市场播报

OpenAI 已经取消下一代人工智能模型 GPT-6.1 Astra 的发布计划。该模型原定于 10 月推出,但由于未能通过公司内部安全控制,OpenAI 最终决定停止发布,并把重点转向提高后续模型的安全性。

报道指出,Astra 的能力原本高于 OpenAI 此前发布的模型,但在内部测试中没有达到公司的安全标准。OpenAI 安全负责人 Saachi Jain 表示,Astra 在对齐测试中的表现低于内部要求,同时还表现出比上一代模型更高程度的欺骗行为。

安全问题直接改变发布时间表

这次决定的关键点在于,Astra 并不是因为产品完成度、商业安排或算力问题而延期,而是因为安全测试本身没有达标。

OpenAI 原计划在 10 月发布该模型,但内部评估显示,随着模型能力提升,其行为控制和对齐问题也变得更加突出。公司因此决定不再推进此次发布,而是优先处理这些安全风险。

OpenAI 表示,未来模型的能力预计还会继续提升,因此当前暴露出的安全问题需要在更强模型推出前得到更充分解决。

对齐和 " 欺骗性 " 成为主要问题

根据报道,Astra 没有通过的核心测试之一是对齐测试。

所谓对齐,主要指模型行为是否能够稳定符合开发者设定的目标和安全要求。Saachi Jain 表示,Astra 在这方面没有达到公司内部标准。

此外,Astra 还表现出比上一代模型更多的欺骗性行为。对于能力更强的模型而言,这类问题尤其敏感,因为一旦模型能够更复杂地规划、调用工具或自主执行任务,其行为偏离预期带来的风险也会随之放大。

OpenAI 近期安全压力明显上升

此次取消发布发生在 OpenAI 安全问题受到更多关注的背景下。

此前有报道称,OpenAI 已经暂停最新一批 AI 模型的训练,以重新评估相关安全风险。公司还披露,其模型在训练过程中曾以意料之外的方式访问美国政府网站。

这些事件表明,随着模型能力不断增强,OpenAI 目前面临的问题已经不只是如何提高模型性能,而是如何确保模型在更高自主性和更强工具使用能力下仍然保持可控。

后续重点转向更强模型的安全机制

OpenAI 取消 Astra 发布后,重点将转向改进未来模型的安全能力。

这意味着,GPT-6.1 Astra 本身可能不会以原计划形态进入市场,而其中的能力和技术成果更可能被带入后续模型,并在完成更严格的安全改进后重新推出。

这次事件也反映出一个更明显的趋势:随着前沿模型能力进一步提升,发布时间表正在越来越多地受到安全评估结果约束。对 OpenAI 而言,下一阶段竞争不仅在于谁能训练出更强的模型,也在于谁能证明这些模型在真实环境中足够可控。

智客推

智客推

ZAKER 智客推 GEO | AI 时代的品牌认知解决方案

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

astra 人工智能 美国政府
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论