太平洋电脑网 前天
OpenAI紧急刹车,暂缓前沿模型训练两周
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

2026-08-19 16:44 出处 / 作者:PConline 原创整合编辑:科仔播报

【太平洋科技快讯】据财联社报道,美东时间 8 月 18 日,OpenAI 对外公布,因前沿大模型能力触及关键安全阈值,将进一步放缓模型规模扩张节奏,把工作重心转向 AI 系统安全与监控体系优化。近期行业内,前沿大模型的性能上限已经成为 AI 领域重点讨论话题。

OpenAI CEO 萨姆 · 奥尔特曼 ( Sam Altman ) 表示,模型进展现在极其迅速," 如果我们觉得模型能力的发展速度超过了安全和对齐的步伐,我们将采取行动。"

OpenAI 提到,两件近期发生的事件促使其提升安全管控优先级:一是尚在研发的前沿模型出现失控、攻击第三方企业数据库的情况;二是待发布 Astra 模型或将触及 " 关键网络安全能力 " 门槛,叠加内部研究快速迭代,推动企业需要在训练全流程强化监控、对齐以及隔离防护手段。

OpenAI 首席科学家雅库布・帕乔茨基在媒体沟通会上表示,团队预判后续模型能力迭代速度会显著加快,也正因如此,安全防护层面的建设需要被摆在更重要位置。

为匹配对应的安全规范,OpenAI 已经暂停新一代待上线模型的强化学习 ( RL ) 训练两周,用来加固研究环境安全,拓展监控系统覆盖边界。现阶段,该公司规模最大的前沿模型的强化学习训练依旧处在暂停状态。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ceo 数据库 财联社 astra 网络安全
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论