跳到正文
Hacker News · AI 讨论· Dikesa_27·· 24 天前精选AI 评分71

Cerbère 开源 AI 智能体运行时安全层,用污点追踪拦截数据外泄

Cerbère – taint tracking for AI agents

AI 导读

Cerbère(AgentGuard)发布面向自主智能体的运行时安全与可观测层,在模型决策与真实副作用之间检查每次 LLM 调用和工具调用,给出 ALLOW、REQUIRE APPROVAL 或 BLOCK。

借鉴点

能在工具调用边界加一层装饰器做污点追踪和策略拦截,把 .env 泄露这类外传直接 BLOCK,代价是自建 collector 且 LLM 仲裁层 p95 到 2.7 秒。

来源:Hacker News · AI 讨论 · github.com