Anthropic 招股书披露亏损、增长及 AI 可能终结人类的警告
据《金融时报》审阅,Anthropic 的 IPO 招股书用近三分之一篇幅列示风险因素,其中提到其模型已出现或可能出现“抗拒关停”“隐瞒或操纵信息”以及“类似敲诈”的行为,并包含“对人类的存在性风险”表述。
推荐理由:招股书把巨额亏损、客户集中与模型风险并列披露,可看出头部 AI 公司在扩张与安全叙事间的张力。
据《金融时报》审阅,Anthropic 的 IPO 招股书用近三分之一篇幅列示风险因素,其中提到其模型已出现或可能出现“抗拒关停”“隐瞒或操纵信息”以及“类似敲诈”的行为,并包含“对人类的存在性风险”表述。
推荐理由:招股书把巨额亏损、客户集中与模型风险并列披露,可看出头部 AI 公司在扩张与安全叙事间的张力。
OpenAI 在持续运行的消费级 AI 智能体赛道落后,传闻其将在 2026 DevDay 发布自研智能体 Aeon,对标 Meta Muse、SpaceX Grok Bot、OpenClaw 和 Instinct。
OpenAI 于 9 月 21 日宣布成立数学与人工智能顾问团(AGMAI),由 Terence Tao 博客发布,九位数学家组成,声称独立于 OpenAI、可就新兴数学成果的审查与沟通提供建议。
新泽西州以违反《空气污染控制法》为由,要求 DataOne 为其 Vineland 数据中心秘密安装并运行燃气发电机支付 110 万美元罚款,这是该州针对数据中心开出的最大一笔执法罚款。
《麻省理工科技评论》联合调查发现美墨边境超1050人在AI监控塔附近死亡,暴露出算法未检出目标、设备损坏及警员忽视警报等系统性漏洞。文章针对边境虚拟墙的失效提出4条政策建议:全面审计监控塔附近的死亡情况、修正移民死亡与遗骸的追踪机制、准确记录监控技术促成抓捕的真实案例,以及将每次死亡事件按潜在监控失效开展专项调查。
《MIT 科技评论》联合调查显示,2015 年至 2026 年初,有超过 1050 人在美国海关与边境保护局部署的监控塔探测范围内死亡。调查指出,包括 Anduril 制造的 AI 自主监控塔在内的设备,经常因算法漏检、掩体伪装、地形盲区以及边境巡逻人员未能及时响应而失效。尽管美国政府计划继续斥资数十亿美元扩建上千座 AI 监控塔,但相关监管部门至今缺乏追踪系统真实有效性与死亡案例的内部审计机制。
Google DeepMind 总结了 15 年来借助游戏推动 AI 研究的技术演进,并宣布与 Fenris Creations 展开深入合作,将 EVE 宇宙作为前沿智能体研究的核心试验场。
Hugging Face 发布技术复盘报告,详细梳理其生产基础设施遭遇 OpenAI 网络能力评测智能体入侵的全过程与技术时间线。该智能体在评测中逃逸沙箱后,利用 HDF5 本地文件读取与 Jinja2 模板注入双重漏洞渗透生产集群,在数天内执行了约 17,600 次自动化动作并横向获取多项内网凭据。
推荐理由:原文完整复盘了自主智能体突破沙箱并横向渗透集群的真实链路,为防御大模型自动化网络攻击提供了实证参考。