Diffusers 原生集成 Nunchaku 4-bit 扩散模型推理
Hugging Face Diffusers 现已原生集成 Nunchaku Lite,支持直接通过 from_pretrained() 加载基于 SVDQuant 的 4-bit 扩散模型。
推荐理由:该集成让开发者无需部署独立引擎即可直接加载 4-bit 扩散模型权重,在降低显存门槛的同时保持了推理加速。
Hugging Face 开源社区动态:热门模型与数据集、排行榜变化与开源生态的晴雨表。
Hugging Face Diffusers 现已原生集成 Nunchaku Lite,支持直接通过 from_pretrained() 加载基于 SVDQuant 的 4-bit 扩散模型。
推荐理由:该集成让开发者无需部署独立引擎即可直接加载 4-bit 扩散模型权重,在降低显存门槛的同时保持了推理加速。
Hugging Face 联合 Pollen Robotics 开源了机器人操作数据采集系统 Grabette,无需实体机械臂或复杂遥操作台即可通过手持夹爪录制真实操作轨迹。
推荐理由:该系统通过低成本手持夹爪免去机械臂遥操作,为低门槛采集操作轨迹并训练具身策略提供了全套开源软硬件方案。
Hugging Face 披露其部分生产基础设施遭遇端到端自主 AI 智能体系统入侵,攻击者利用数据集处理漏洞提权并获取了部分内部数据集和凭据,公开模型、数据集与 Spaces 均未受影响。
推荐理由:原文披露了自主智能体入侵的完整链路,并结合取证受阻经验提示防御团队需在本地预置可用的大模型。
Thinking Machines Lab 在 Hugging Face 上线开源全模态模型 Inkling 及小尺寸版本 Inkling-Small,原生支持文本、图像和音频输入并具备 1M 上下文窗口。
推荐理由:该模型给出了万亿参数原生全模态与长上下文的开源落地范式,读者可据此参考其混合注意力架构与量化部署成本。
Hugging Face 宣布 vLLM 的 transformers 建模后端在许多 LLM 架构上已达到甚至超过 vLLM 手写原生实现的吞吐。在 Qwen3-4B 单卡、Qwen3-32B 张量并行、Qwen3-235B-A22B-FP8 MoE 三种配置的对比中,该后端均追平或超过原生实现。
推荐理由:Hugging Face 给出 transformers 后端在 vLLM 中追平原生实现的实测与改动方式,便于判断模型作者是否还需自写 vLLM 实现。
微软与 Hugging Face 联合推出 Foundry Managed Compute 及 Hugging Face 模型集合,支持在 Azure 上一键托管部署开源权重模型。
推荐理由:微软与 Hugging Face 联合将开源权重与托管运行环境打包,解决了企业在私网内合规部署与免运维开源模型的工程门槛。
Hugging Face 推出开源机器人学习框架 LeRobot v0.6.0,重点补齐从未来预测、人工纠偏到统一评测的完整学习闭环。新版本引入 VLA-JEPA、LingBot-VA 等世界模型策略,支持 GR00T N1.7 和 MolmoAct2 等新 VLA 模型,并提供 Robometer 等统一奖励模型 API 与 6 个仿真基准。
推荐理由:该版本打通了从世界模型预测、在线人工介入纠偏到云端训练与统一评测的完整机器人学习闭环。
SkyPilot 联合 Hugging Face 推出对 Hugging Face Storage 的原生支持,允许通过 hf:// 统一在任务中挂载 Hub 模型、数据集与读写存储桶。Hugging Face 存储免收出网流量费与 CDN 费用,配合 Xet 分块去重与 FUSE 惰性加载,计算任务在任意云端拉取数据均无需支付跨云传输税,大幅减少多云调度 GPU 时的等待与带宽开销。
推荐理由:原文给出了多云训练免出网流量费的存储挂载配置与实测数据,为多云调度的算力团队降低了跨云数据传输成本。
Hugging Face 联合 Cerebras 推出基于 Gemma 4 31B 的实时语音到语音开源流水线,大幅降低语言模型推理与多轮交互延迟。该级联系统采用完全模块化设计,整合 Nvidia Parakeet 语音识别、Cerebras 加速的 Gemma 4 推理以及阿里 Qwen3TTS 文本转语音,重点优化高分位延迟瓶颈。
推荐理由:原文展示了通过专用推理芯片与模块化开源模型串联消除长尾延迟的方案,为具身智能与实时语音助手的架构设计提供了落地参考。