跳到正文
掘金· 海螺_AIHCC·· 10 天前精选AI 评分78

用 200 行工具调用拦截器在执行侧拦住 Agent 危险操作

Agent 能自己调工具之后,安全就不该写在提示词里:一个 200 行拦截器的工程实践

AI 导读

作者给出一个约 200 行、只用标准库的工具调用拦截器,在工具真正执行前用工具名加参数过规则,返回 allow、deny 或 ask。四条规则分别是危险命令先归一化再匹配、路径用 resolve 判断越界、外发请求过域名白名单并检测密钥、不可信来源的写操作和网络请求升级为人工确认。

借鉴点

能拿走一个约 200 行的工具调用拦截器,含命令归一化、路径 resolve、域名白名单、不可信来源标记四条规则和 60 条回归用例,落到软件工厂的执行侧闸门;代价是规则要随业务持续维护,ask 用多了会疲劳批准。

来源:掘金 · juejin.cn