跳到正文
原文
Import AI· Jack Clark·· 2026-05-18AI 评分45

Import AI 457:AI 版 Stuxnet、Muon 优化器缺陷与积极对齐

Import AI 457: AI stuxnet; cursed Muon optimizer; and positive alignment

AI 导读

Import AI 457 披露了可篡改高精度工程计算的早期病毒 fast16,并分析了旨在解决 Muon 优化器缺陷的新型优化器 Aurora。在约 100B token 上训练 1.1B 参数 Transformer 时,Aurora 解决了 Muon 导致超四分之一神经元死亡的问题,将平滑损失降至 2.26,并使 MMLU 得分比 Muon 提升 10 分。

来源:Import AI · importai.substack.com