跳到正文

全部动态

今日 9 条
9月24日周四
  1. Google DeepMind61

    Google 推出 Private AI Compute 安全服务端内存架构,实现跨设备持久 AI 记忆

    Google 宣布为 Private AI Compute 平台引入服务端安全持久内存架构,在保持端侧隐私标准的同时支持跨设备保留长期 AI 上下文。该架构结合硬件安全飞地、端到端加密通道和仅由设备端持有的解密密钥,云端仅在隔离内存中临时解密处理并即时重新加密,确保数据对包括 Google 在内的第三方不可见。

    推荐理由:原文解决了传统云端隐私计算无状态导致无法跨设备保留上下文的问题,展示了云端大模型在严格硬件加密下维持长期记忆的可行路径。

9月23日周三
  1. NVIDIA Blog25

    Sakeena Fiza 助力 NVIDIA 硬件实现规模化成功

    NVIDIA 数据中心系统验证工程师 Sakeena Fiza 在硬件量产前进行极限测试与故障排查,保障系统从机架到 AI 工厂的大规模稳定运行。验证工作跨越固件、硬件、机械与散热等环节,需排查包含近 50 万个元件的整机架潜在隐患,其团队还曾完成 NVIDIA Rubin GPU 在全球的首次系统级枚举。

  2. OpenAI News60

    GPT-6 改进提示词缓存机制

    OpenAI 介绍了 GPT-6 在提示词缓存(prompt caching)上的优化机制,旨在降低推理延迟与成本。该更新支持更高的缓存命中率,并引入了全新诊断工具、显式断点以及精细控制能力。

    推荐理由:材料指出了 GPT-6 提示词缓存的命中率优化与显式断点控制,有助于开发者降低调用延迟与成本。

9月22日周二
  1. Hugging Face Blog57

    oMLX 创作者 Jun Kim 加入 Hugging Face,加速推进 Apple MLX 生态建设

    oMLX 创建者兼维护者 Jun Kim 正式加入 Hugging Face,全职投入支持 Apple MLX 社区与本地 AI 生态。oMLX 将从个人业余项目升级为获得资金支持的完全维护项目,继续保持 Apache 2.0 开源协议;未来重点之一是简化流程,加速将 transformers 模型定义转换为能在 MLX 上运行的参考实现。

  2. NVIDIA Blog46

    NVIDIA 推出 DSX Ready 认证计划,规范 AI 工厂电力与散热产品

    NVIDIA 推出 NVIDIA DSX Ready 认证计划,为符合其 DSX AI 工厂参考设计的第三方电力与散热方案提供标准化验证。该计划首发涵盖电池储能系统(BESS)与冷量分配单元(CDU)两大类别,首批通过认证的厂商包括 Tesla、Hitachi Energy、LG 与 Vertiv 等。后续该计划还将扩展至更多基础设施和软件类别,旨在降低集成风险并加速 AI 工厂部署。

  3. NVIDIA Blog49

    NVIDIA:为什么规模化部署物理 AI 需要全层级安全

    面对自动驾驶与机器人的规模化部署,NVIDIA 提出物理 AI 必须贯穿硬件、软件与 AI 行为等全生命周期安全,并推出全栈安全系统 NVIDIA Halos。针对自动驾驶,Halos 涵盖 DRIVE AGX Thor 计算平台与 Alpamayo 开源推理模型;针对机器人,Halos 整合 IGX Thor 工业模块与 Isaac Lab 仿真验证,支持第三方系统级认证。

  4. NVIDIA Blog35

    从赋能到落地:埃及 AI 生态迈向生产级规模

    埃及 AI 生态正迈向规模化生产阶段,NVIDIA 深度学习培训机构在埃及的学员基数在一年内增长超十倍,在非洲已累计培训超 85,000 名开发者。非洲一年内已宣布或上线 4 座 AI 工厂且在建新增容量达 656 兆瓦,包括 Cassava 投资可达 7.2 亿美元的算力部署,以及由超 50 台 NVIDIA HGX B300 系统驱动的本土 AI 云。

9月21日周一
  1. Microsoft Research54

    微软在 Nature 发表小分子逆合成预测模型 RetroChimera 并开源

    微软在《Nature》发表小分子逆合成预测模型 RetroChimera 并开源代码与权重,通过学习重排序策略融合了 Transformer 生成式模型与图神经网络模板模型。在盲测中,化学专家对其单步反应预测的评价超过先前模型与文献记录反应,在 10 个高难度目标分子的多步合成测试中成功规划出 9 个。项目代码已按 MIT 协议托管于 GitHub,并接入 Microsoft Foundry。

  2. NVIDIA Blog47

    NVIDIA:AI 安全是一个工程问题,如何在 AI 智能体技术栈各层构建防护

    NVIDIA 强调 AI 安全是需在模型、工作流及运行时全栈设立强制边界的工程问题,并开源了安全运行时 OpenShell。OpenShell 独立于智能体自身的推理决策提供沙箱执行环境,从底层管控文件、网络和系统资源访问。Cisco 的 DefenseClaw 与 JFrog 已接入该架构,分别提供治理层以及技能扫描和策略控制支持。

  3. Hugging Face Blog45

    像物理学家一样剪枝大语言模型:将块删除建模为伊辛优化问题

    新研究将大语言模型的 Transformer 块剪枝建模为约束二进制优化与伊辛玻璃问题,通过最小化能量确定最优删除组合。该方法利用 Hessian 矩阵捕捉层间耦合相互作用,无需逐一运行基准测试即可低成本评估海量配置。在 Llama-3.3-70B-Instruct 的 50% 压缩测试中,其 MMLU 得分比现有最佳块删除方法高出近 23 个百分点。

  4. NVIDIA Blog35

    5 家利用 NVIDIA AI 推动清洁能源的公司

    NVIDIA 在纽约气候周展示了 5 家利用其 AI 技术加速清洁能源转型的代表企业。ThinkLabs AI 基于 CUDA 将电网互联评估时间从 30-45 天缩减至 2 分钟;Redwood Materials 在 Blackwell 平台上运行 AI 层调度回收电池供电。

  5. Hugging Face Blog61

    Hugging Face 发布 tokenizers v1 候选版:编码速度提升 3 至 30 倍

    Hugging Face 推出 tokenizers v1 候选版本,在完全保持原有输出 token ID 与 API 兼容的前提下,将十个模型家族的单线程编码速度提升了 3 至 30 倍。

    推荐理由:原文系统拆解了通过位流指令替代正则切分与无分配合并循环等工程优化,对高吞吐文本处理工作流具有实用参考价值。

9月18日周五
  1. GitHub Blog · AI & ML49

    GitHub:该读代码吗、RAG 是否已死,以及 Skills 取代了 MCP 吗?

    GitHub 播客针对当前 AI 流行论调指出,开发者仍须对生成的代码负责并按风险审查,而 RAG、MCP 与 Skills 实为互补而非互相取代。其中 MCP 提供连接工具与数据的标准接口,Skills 封装流程规范,结合 RAG 检索能共同辅助 AI 智能体;此外,团队评估开发者时更看重其何时使用 AI 及把控质量的判断力。