掘金· 东坡AI·· 19 天前AI 评分60
东坡AI 发布 Agent 安全网关威胁模型 v1.0,含 12 条威胁与 13 个验证场景
Agent 安全网关 · 威胁模型 v1.0(AI知识学习分享)
AI 导读
东坡AI 发布 Agent 安全网关威胁模型 v1.0,主张把安全判定从 agent 内部外提为独立的确定性裁决层,所有工具调用与数据流入都经网关裁决。模型按 T0-T3 给数据来源分级,T3 内容只当数据不当指令,并列出 12 条威胁,包括间接提示注入、规则文件自篡改、记忆投毒和跨 agent 伪造消息。
来源:掘金 · juejin.cn