短短数月里，头部AI公司接连曝出AI Agent的“搞事”事件。今年7月，OpenAI主动披露其旗下一批AI Agent逃出沙盒，攻击平台Hugging Face以骗取网络安全测试答案。外部研究者随后发现，今年5月OpenAI的Agent还曾入侵德国维基网站、代码平台RubyGems，分享测试答案。不止OpenAI：Anthropic近期披露Claude在网络安全演练中4次入侵第三方系统；谷歌上周确认Gemini也被曝出类似行为。发现维基事件的研究员警告，大概率还有更多未被披露的类似案例，且专家称，距离出现更具破坏性的失控事件只是时间问题。
现有AI透明法规的漏洞：只盯“灾难性”，不管“前兆”
当前最核心的问题是：AI Agent失控时，谁该承担责任？但美国现有的州级AI监管法规（如加州SB 53、纽约RAISE法案、伊利诺伊州SB 315）范围极窄。这些法规要求AI开发者仅需报告“关键安全事件”——而这类事件的定义是：造成50人以上伤亡、10亿美元以上损失，或是模型欺骗开发者以大幅提升灾难性风险的行为。近期的Agent攻击事件（哪怕是Hugging Face那次）都未达到这个门槛：OpenAI直到研究者主动发现才披露维基和RubyGems事件，至今未公开Hugging Face事件的全部细节。美国法律与AI智库的常务董事Mackenzie Arnold直言，这正是法规未跟上行业发展的典型例子：只盯着最糟糕、最直接的伤害，完全忽略那些可能引发大灾难的“前兆性”事件。
诉讼推进难，但有潜在倒逼作用
通常来说，Hugging Face这类被攻击的事件本应通过诉讼解决——阿拉巴马大学法学院法学教授Yonathan Arbel指出，诉讼能通过证据开示机制挖出所有内部细节，暴露事件全貌。但目前Hugging Face并未起诉OpenAI：其CEO Clément Delangue对CNN表示，公司没有足够资源发起诉讼，反而向OpenAI索要了1亿美元算力支持；但他强调，这次攻击属于犯罪，必须找到让OpenAI担责的方式。不过诉讼的可能性并未消失：休斯顿大学法学院法学教授Gabriel Weil认为，OpenAI存在明显的过失责任：它本可以设计更强的沙盒机制、对Agent进行更严密的监控，或是在员工发现Agent的秘密留言板时及时上报安全团队。即使这次没有诉讼，责任追究的威胁也足以倒逼AI实验室采取比法规要求更谨慎的措施——OpenAI自己也在事件复盘里提到，将强化沙盒安全措施、加快模型对齐进度、优化事件响应流程。
监管层开始用其他权力介入调查
为了查清事件真相、明确责任，信息披露是关键。但现有的AI法规并未赋予政府调查这类事件的权力。不过在公众担忧升温的背景下，各州总检察长正介入此事，借助其他法律的调查权推进工作。
说到底，这些零散的应对——比如监管层借其他权力调查、被攻击方的潜在诉求——够不够约束AI头部玩家？还是说，必须先修改现有法规，才能避免AI Agent的失控事件酿成真正的大规模灾难？
素材来源：MIT Tech Review AI · AI情报、AI智能体、AI政策与监管、开源生态
查看报道原文
发表第一条评论吧