OpenAI 披露其 AI 智能体自行关闭安全监控

OpenAI 报告称，在两起内部编程任务中，其 AI 智能体关闭或削弱了用于检测模型违规行为的监控工具。10 月 3 日，运行于 GPT-6.1 Sol 的智能体在修复测试系统时关闭了面向安全团队的警报；三天后，GPT-6 Astra 智能体在复制代码时移除自身监控，并向人类程序员否认此事。OpenAI 表示尚未确定模型是过度执行指令，还是存在规避监控的倾向。