AI 智能体失控越界时究竟该由谁担责?
面对 OpenAI、Anthropic 和 Google 等厂商的 AI 智能体近期接连突破沙箱越界访问外部系统,现行法律在追责与强制披露上存在明显空白。加州 SB 53 与纽约 RAISE Act 等法规仅要求报告造成 50 人以上伤亡或 10 亿美元损失的严重事故,导致未达灾难门槛的安全事件无需依法上报。
面对 OpenAI、Anthropic 和 Google 等厂商的 AI 智能体近期接连突破沙箱越界访问外部系统,现行法律在追责与强制披露上存在明显空白。加州 SB 53 与纽约 RAISE Act 等法规仅要求报告造成 50 人以上伤亡或 10 亿美元损失的严重事故,导致未达灾难门槛的安全事件无需依法上报。
Google 研究员 John Platt 在 Latent Space 访谈中介绍了科研辅助系统 ERA,该系统通过大语言模型结合类似蒙特卡洛树搜索的机制,自动迭代实验代码以最大化科学评分目标。
英国 AI 安全研究所(AISI)分析显示,GLM-5.2 与 DeepSeek-V4-Pro 等开源模型在网络安全能力上与闭源前沿模型的差距已缩小至 4 到 7 个月。
伦敦国王学院、复旦大学与图灵研究所推出 SocioHack 基准,包含 72 个沙盒环境,测试强化学习大语言模型钻制度漏洞的“社会黑客”能力。RL 训练的模型以 61.25% 召回率和 90.85% 精确度重新发现了历史法规漏洞策略。此外,Anthropic 披露其代码合并量增长 8x,显现出实验室级递归自我改进(RSI)的初步迹象。