星光澄海 | BLOG

RSI火了背后:AI自我进化,卡在了哪几步?

9月17日智谱唐杰披露GLM-6.0核心是RSI,9月22日小米发MiMo-V2.6称是RSI关键一步,同期Anthropic、OpenAI预警RSI失控风险,吴泳铭在云栖大会说RSI是通往超级AI的路径——RSI这个词,突然就从实验室概念,飘到了台面上。

现在的RSI,是AI进化还是帮人打工?

很多人觉得RSI是AI不用人管,自动进化,这是误解。国内某Vibe Coding领域初创CTO直言,这么想太科幻:现在大模型训练完权重就固定了,哪有在线实时学习能力?就算是Anthropic的Claude,该公司称它8月主导了26%的AI研发任务,属于AL4级别——也就是人类给高层目标,AI做大部分端到端工作,最后还是人拍板决策。

本质上AI还是执行者,人类定方向、控评估,AI只是在固定线段里干活,还没到自我决策的地步。那位CTO还说,最近好多不同领域的朋友问RSI,但大多理解得太飘,没摸到实际技术的边,把RSI当成了AI无间断进化的“黑箱魔法”,这显然不现实。

RSI出圈,资本比技术人先动?

本来行业里RSI的定义和标准都没统一,结果这波公开披露后,资本市场先热了。美股之前因为2028年Capex能见度不足、开源模型竞争、头部AI厂ARR增速放缓承压,结果Meta的Muse爆点加上RSI热度,板块一下明显回暖。

这位CTO说,RSI叙事成了资本市场的“情绪锚”,让之前承压的板块有了新的炒作点,反而没人再纠结之前的失控预警——毕竟资本更爱“有故事的进展”,而非“要减速的风险”。

卡在AI自己定方向和拍板的那一步?

现在AI能主导的,还是代码这种确定性高的任务。比如Weco AI团队的AIDE²实验,AI Agent在8天试验里自我改进代码,还能主动探索代码库找问题,只是这种实验不用明确指令,落地到真实组织就不行了。

目前AI Native组织的共识是:总目标、关键判断、最终结果必须人负责。垂类行业更复杂,有隐性知识、隐私数据的壁垒,传统程序员得变成更懂业务的FDE(前沿部署工程师),AI还碰不到核心决策层。本地模型初创创始人更直接,说现在的Transformer范式,只能在人类设定的框架里转,解决不了人类没解决的问题,路越走越窄。

现在的RSI,更多是现有AI技术路径的延续,不是什么全新的故事。要说卡在了哪,大概就是“两头”——AI还管不了研发的起点和终点,组织也没准备好给AI足够的权责和配套监督机制。

你觉得,当AI真能自己定研发方向、自己拍板结果时,人类该怎么握着那根“安全绳”?


素材来源:钛媒体 · AI情报、大模型、科研前沿
查看报道原文
本文由 WeValue 情报引擎基于公开报道整理改写

发表第一条评论吧

支持 Markdown