量子位 16小时前
闭源RSI的严父来了:18个Agent自主科研,Kimi K3靠Harness逼近Opus 5
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

henry 发自 凹非寺 量子位 | 公众号 QbitAI

刚刚,闭源 RSI 的钦点严父来了!

开源 AI 基础设施公司 Prime Intellect 在最新的一项研究中提出:

借助多智能体 Harness,可以把监控和具体实现交给更小、更便宜的开源模型,,从而让 "AI 开发 AI" 变得更便宜,甚至效果更好。

在实验中,他们把 Fable 5、Opus 5、GPT-5.6 Sol、Kimi K3 等 18 个前沿模型,扔进了一场 nanoGPT 优化器速通。

结果,开源权重模型 Kimi K3 搭配 Prime Agent Harness 后,在原始结果页中跑出了 2930 步的成绩。

这不仅超过了 GPT-5.6 Sol 的 3042 步,距离 Claude 的旗舰模型 Opus 5 的 2920 步也只差 10 步。

换句话说,在 AI 研究这件事上,一套由开源模型和 Harness 组成的系统,已经能够超过部分顶级闭源模型,甚至逼近第一梯队。

这一方面开始动摇过去那个最经典的 RSI 剧本:

某个最强闭源模型率先跨过 "AI 开发 AI" 的临界点,然后不断自我迭代,把其他玩家越甩越远,最终赢家通吃。

另一方面,Prime Intellect 也展示了另一种可能:

模型不一定非得最强,只要底下这套科研机器足够高效,开源模型同样可以靠更高的试错吞吐量追上来。

而这,也进一步展示了 Harness 这类 Agent 编排框架,在 AI4AI、AutoResearch 上的潜力。

这是怎么做到的?

nanoGPT 优化器速通

简单来说,这次 Prime Intellect 的实验,就是让十几个前沿大模型,去速通 Karpathy 那套著名的 nanoGPT 训练任务。

不过先澄清一点。

这次并不比谁能凭空发明一个多么原创的新算法。

Prime Intellect 做的,是直接把 AI 扔进一个目标明确、反馈快速的真实训练任务里,看它能不能像人类研究员一样,不断提出假设、跑实验、看结果,再继续往下改。

Agent 一开始会拿到一份带有 baseline 超参数的训练脚本,同时只得到一个提示:现在这套方案还不够好。

至于哪里能变好,怎么变好,没人告诉它:

究竟是换一种更好的预条件方法,给权重和更新幅度加上限和下限,调整学习率 schedule,让高学习率保持得更久,还是在训练后期加入权重平均,都得靠 Agent 自己一点点试出来。

所以,这些实验到最后都只看一个指标:

用尽可能少的 training steps,把一个 1.24 亿参数 GPT 的验证集 loss 降到 3.28 以下。

为了让大家从同一条起跑线出发,Prime Intellect 把 baseline 定在了 3290 步。

作为参照,目前公开的最好纪录则是人类的 2600 步。

于是呢,整个比赛就变成了从 3290 步出发,看谁能把这个数字压得更低。

压得越低,说明它找到的训练 recipe 越高效,也就越接近顶尖人类研究者已经做到的水平。

具体的,参与测试的包括 Fable 5、Opus 5、GPT-5.6 Sol、Kimi K3、Grok 4.5、GLM 5.2、Muse Spark 1.1、DeepSeek V4 Pro、Grok 4.6、Muse Spark 1.2、Qwen 3.8 等共计 18 个前沿模型。

每次启动之后,Agent 会拿到三样东西:代码仓库、一份规则手册,以及一条目标指令。

实验统一运行在 8 张 H200 上,从这里开始,人类基本退出。

改优化器、写代码、启动训练、比较 loss、判断结果是不是噪声、决定下一轮实验做什么,全都由 Agent 自己完成。

值得一提的是,为了防止它们直接上网抄现成答案,整个过程还被锁进 sandbox,并且彻底断网。

实验验证

最终,Prime Intellect 一共跑了 153 次全自主实验,单次最长持续超过 8 天。

然后,他们先得出了一个多少有点扫兴的结论:

没有任何一次实验,提出了真正意义上的全新方法。

最终有效的那些招数,无论是 normalization、学习率调整、权重平均还是各种 optimizer 技巧,基本都能在已有研究里找到类似思路。

但也正因为大家最后找到的 idea 差不多,另一个现象反而变得更明显:

真正把模型拉开差距的,不是想到什么,而是怎么把它试出来。

这里咱们先放几个结论:

强模型不会轻易把一个 idea 判死刑。

弱模型常常一个 seed 跑差了就放弃,强模型会换 seed、重新消融,甚至等 recipe 变了以后,再把旧方案捡回来重测。

Opus 5 重新调 β 2 后刷出了新纪录,Fable 5 一次重新探测旧方案,又省下了 31 个 steps。

强模型更会处理噪声。

它们会先判断一个小提升到底来自真实改进还是随机波动,再决定值不值得继续烧算力。

甚至有模型发现,同一个 seed 重复跑,loss 也会因为 GPU 非确定性发生变化,随后直接围绕这个现象重做实验流程。

强模型还会自己造工具。

Kimi K3 会自己写实验函数、比较 loss 曲线、恢复 baseline,甚至搭一个小型数值实验室,先验证 Newton-Schulz,再把结论带回真实训练。

而跑得最远的 Fable 5,最终做到 2726 步。

从 3290 步 baseline,到 2600 步的人类纪录,中间一共有 690 步优化空间。

Fable 5 已经吃掉了 564 步,相当于走完其中大约 82%。到这里,这次实验真正有意思的地方才出来。

因为如果十几个模型最后想到的东西都差不多,那么至少在这种研究任务里,idea 本身可能没有大家想象中那么稀缺。

真正影响成绩的,反而是能不能多试几个方向,能不能更快排除错误,能不能抓住那些很弱但真实存在的信号,再把它们一轮轮叠起来。

换句话说,科研能力开始越来越像一个试错吞吐量问题。

而这,也正好解释了 Prime Intellect 为什么接下来把重点放到了 Multi-Agent Harness 上。

既然大量工作都落在写代码、跑实验、盯结果、做验证这些环节,那么就没必要每一步都调用最贵的前沿模型。

可以让更便宜的开源模型负责监控和实现,把真正需要判断的环节留给更强的模型。

这样一来,同样的钱能跑更多实验,同样的实验也能更快跑完。

而当一次试错越来越便宜,AI 科研能力的提升,也就不一定非得等下一个更强的大模型。

把底下这套 " 试错机器 " 造得更好,本身就能继续把成绩往上推。

所以 Prime Intellect 下一步还准备把 Speedrun 扩展到训练栈的更多环节,同时继续放大实验规模。

从这个角度看,Multi-Agent Harness 真正想加速的,也不只是 nanoGPT。

它想加速的是 AI 研发本身的迭代速度。

这其实还真有点像 OpenAI 研究员翁家翌之前在 Why Not TV 里提到的一个判断:

对于人类研究员来说,idea 本身往往很便宜。

大家能想到的方向,可能并没有想象中差那么多。

真正拉开差距的是 infra(基础设施)的迭代速度——谁能更快、更稳地验证想法、修 bug、跑实验,谁就能赢。

而放到 AI4AI 里,道理可能也一样。

我们未必需要每一步都让一个极其聪明、极其昂贵的模型亲自下场。

很多时候,真正需要解决的是:

怎么让一个还不错的模型,以足够低的成本,把实验循环跑得足够快。

这时候,便宜的开源模型 +Harness,反而开始显出优势。

而且值得一提的是,在 Kimi K3 的测试中,正是 Prime Intellect 自家的 Prime Agent Harness 给模型提供了一个持久运行的 IPython 内核,让它们可以围绕研究任务,自己搭建和迭代一套工作流。

而这套内核也让 K3 得以在实验中,可以主动推翻自己的假设,从而提高效率。

这件事看起来只是一个小功能,但放到 RSI 里,其实很关键。

因为如果模型的能力短期内没有突然跳升,那么接下来最容易继续扩张的,可能恰恰就是模型外围的科研基础设施。

让它拥有更长时间的工作状态、更顺手的实验工具、更便宜的执行模型,以及能够同时跑更多假设的 Multi-Agent 系统。

最后得到的,不一定是一个突然 " 智力爆炸 " 的超级模型。

也可能是一台越来越便宜、越来越快、越来越不知疲倦的 AI 科研机器。

而如果 AI 开发 AI 最终真要进入指数级加速,Prime Intellect 给出的这条路线至少提醒了一件事:

决定速度的,未必只有上面那个模型有多聪明。下面那套让它不断试错的机器,同样重要。

参考链接

[ 1 ] https://www.primeintellect.ai/blog/measuring-autonomous-research

[ 2 ] https://www.primeintellect.ai/blog/prime-agent

一键三连「点赞」「转发」「小心心」

欢迎在评论区留下你的想法!

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

kimi ai 开源 科研 量子位
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论