Import AI 468:应对 RSI 的 23 项政策建议、PostTrainBench+ 以及 AI 竞赛中的信任与透明度
智库 IFP 针对自动化 AI 研发带来的递归自我改进(RSI)风险,在 7 大类别中提出了 23 项政策建议,旨在帮助决策者兼顾技术扩散与安全治理。此外,MIT 与哥伦比亚大学的研究人员通过博弈论模型分析了 AI 竞争企业协调减速的可能性,指出避免灾难性“毁灭竞赛”的关键取决于技术透明度与对对手理性的互信程度。
智库 IFP 针对自动化 AI 研发带来的递归自我改进(RSI)风险,在 7 大类别中提出了 23 项政策建议,旨在帮助决策者兼顾技术扩散与安全治理。此外,MIT 与哥伦比亚大学的研究人员通过博弈论模型分析了 AI 竞争企业协调减速的可能性,指出避免灾难性“毁灭竞赛”的关键取决于技术透明度与对对手理性的互信程度。
AI 领域的关键瓶颈正从模型能力转向 GPU 利用率,闲置硬件如同停飞的客机,持续产生成本却无法形成产出。随着企业通过部署自建 GPU 集群来替代按 token 计费的 API 线性成本,硬件采购已由获取算力转向维持高效运转的挑战。算力规模本身无法保证效益,如何减少峰值冗余造成的闲置正成为决定成败的核心。
英国 AI 安全研究所(AISI)分析显示,GLM-5.2 与 DeepSeek-V4-Pro 等开源模型在网络安全能力上与闭源前沿模型的差距已缩小至 4 到 7 个月。
UC Berkeley 研究团队发文指出,随着大模型推理成本大幅下降,数据系统正面临面向 Agent、由 Agent 组成以及由 Agent 合成三大重构方向。多智能体高频探索需要数据系统支持子查询复用与近似查询等主动反馈机制,海量智能体协作亟需超越文件检索的结构化记忆与并发一致性控制,且智能体已具备针对特定负载直接端到端合成定制化数据系统的能力。
推荐理由:文章系统梳理了推理成本下降对底层架构的冲击,读者可借此理解多智能体环境下数据系统的重构逻辑。
Fable 在 KernelBench-Mega 上编写 CUDA 代码实现相比优化 PyTorch 基准 18.71X 的加速,成为该榜单首个真正的 megakernel。
围绕 Goldfeder、Wyder、LeCun 与 Shwartz-Ziv 的 2026 年论文《AI Must Embrace Specialization via Superhuman Adaptable Intelligence》,Dharma AI 撰文指出,优化理论、演化生物学、竞争市场与机器学习共同预测:在有限资源下,专注于特定领域的系统会胜过追求通用性的系统。
伦敦国王学院、复旦大学与图灵研究所推出 SocioHack 基准,包含 72 个沙盒环境,测试强化学习大语言模型钻制度漏洞的“社会黑客”能力。RL 训练的模型以 61.25% 召回率和 90.85% 精确度重新发现了历史法规漏洞策略。此外,Anthropic 披露其代码合并量增长 8x,显现出实验室级递归自我改进(RSI)的初步迹象。
Anthropic 联合创始人 Jack Clark 在牛津大学演讲中指出,面对 AI 技术的持续加速,个人与社会应主动正视并探索奇点带来的深远重塑。他透露 Anthropic 内部在 Opus 4.6 发布后大部分代码已转由 Claude 生成,人类员工正在向监控与验证层迁移,单名研究员已能调遣 9 个合成智能体协同推进研究。
Import AI 457 披露了可篡改高精度工程计算的早期病毒 fast16,并分析了旨在解决 Muon 优化器缺陷的新型优化器 Aurora。在约 100B token 上训练 1.1B 参数 Transformer 时,Aurora 解决了 Muon 导致超四分之一神经元死亡的问题,将平滑损失降至 2.26,并使 MMLU 得分比 Muon 提升 10 分。
Institute for Law & AI 提出“根本选择权”治理框架,主张政府在短期避免过度监管,同时提前储备应对强 AI 危机所需的制度与信息工具。该方案建议建立透明度与报告机制、保护前沿实验室吹哨人,并加大对美英两国 AI 安全研究所(CAISI 与 AISI)的技术投入。此外,Meta 与 KAIST 联合探讨了统合计算、内存与 I/O 的“神经计算机”。
Jack Clark 发文分析认为,到 2028 年底有超过 60% 的概率出现无需人类参与的自动化 AI 研发,届时前沿系统或能自主训练出后继模型。文章汇总了 SWE-bench 饱和、METR 任务时间跨度跃升、CORE-Bench 论文复现、MLE-Bench 以及内核优化等公开数据,指出工程落地所需的基础组件已基本就绪。