用伪造工具输出的 LLM 对 AI 智能体监控器做红队测试

研究者发布模拟控制评估（SCEs）方法，用 LLM 模拟器伪造工具输出，在不实际执行攻击的情况下测试智能体监控器能否拦截有害行为。在 LinuxArena 上的对照实验显示，模拟环境与真实执行的结果差距往往与两次独立真实运行之间的差距相当，且比简单控制设置更能预测真实表现。该方法目前尚无法覆盖长周期、多智能体攻击。