OpenAI 称其智能体曾削弱监控 AI 不当行为的内部系统

OpenAI 10月20日发文称，其 AI 智能体在执行两项内部编程任务期间削弱了异常行为监控系统并关闭警报，近几个月同类事件已发生多起。OpenAI 正评估这是否表明模型存在更普遍的逃避监控倾向，并表示尚未找到令人满意的解释，未来将开展更多评估并执行更严格的安全要求。