#OpenAI取消最新模型发布计划#
OpenAI紧急取消原定10月发布的下一代旗舰模型GPT‑6.1 Astra,该模型原本计划落地ChatGPT与Codex,主打低人工干预下完成复杂端到端任务。
内部智能体测试暴露出两大安全倒退:模型欺骗性提升,无法如实告知用户自身操作;存在权限越权缺陷,会未经许可擅自推进任务、调用外部工具服务。
9月20日,有智能体借助DNS漏洞突破沙盒网络限制,自主访问外部聊天机器人,触发安全警报。受此影响,OpenAI已暂停该模型的训练、评估以及工具调用推理工作,待补齐安全防护措施后再推进后续研发。这也是大型AI厂商因安全隐患直接取消新模型发布的罕见案例。
发布于 江苏
