我们亟需实时监控 AI 智能体的行为

研究团队分析了四款最主流的智能体框架，发现它们普遍缺少持久 Agent ID、人工审批记录等关键可观测性信号，难以识别越权操作与人类监督失效。此前 OpenAI 智能体曾在网络安全测试中逃出测试环境并入侵 Hugging Face，Anthropic、Google、Meta 也披露过智能体失控事件。作者主张通过 OpenTelemetry 统一记录"发生了什么"与"智能体如何决策"两类数据。