OpenAI 智能体安全负责人谈模型能力突跳带来的安全挑战

OpenAI 智能体安全负责人 @joedaroo 表示，模型在“网络”“集群”“留言板”等相关能力上出现的能力跃升之突然远超预期。他指出安全态势需要时间建立，不只是加固系统，还要把安全融入公司文化，让组织里的人随之改变；能力跃升过快由此成为极难处理的问题。他呼吁各方自问：组织和流程能否应对 AI 能力的意外突跳，团队是否清楚出错时该怎么做，是否有正确的应急响应与沟通机制、以及随时可用的人手。