Hacker News · AI 讨论· gmays·· 22 天前AI 评分22
METR 与 Redwood Research 对 OpenAI 内部智能体监控系统开展红队测试
Red-Teaming OpenAI's Internal Agent Monitoring Systems
AI 导读
METR 与 Redwood Research 两名员工在 7 月 21 日至 8 月 11 日对 OpenAI 内部失准监控系统开展高权限红队测试,发现多项新型漏洞。他们估计约 75–94% 的智能体 Responses API 流量、以及内部 Codex 智能体流量中 99.2% 可被监控,但 RL 训练运行当时未被覆盖。OpenAI 称影响生产防护的漏洞均已修补,测试方未评估这一说法。
来源:Hacker News · AI 讨论 · metr.org