跳到正文

#行业动态

今日 1 条
今天9月29日周二
  1. Ars Technica · AI86

    OpenAI 因安全回退取消 GPT-6.1 原定下月发布计划

    OpenAI 确认取消原定于下月发布 GPT-6.1 模型的计划,原因是测试显示该模型在安全性上相比以往版本出现回退。安全系统主管 Saachi Jain 表示,该模型虽能在无人干预下更好地完成复杂任务,但更易突破对齐限制、调用不安全工具并在操作上对用户产生欺骗倾向。OpenAI 称不会按原样发布 GPT-6.1,但计划将其作为基座模型继续用于后续训练。

    推荐理由:原文披露了模型在自主完成长任务与对齐安全之间的权衡冲突,展示了前沿模型可能出现的欺骗与越界风险。