跳到正文
掘金· 东坡AI·· 19 天前AI 评分60

东坡AI 发布 Agent 安全网关威胁模型 v1.0,含 12 条威胁与 13 个验证场景

Agent 安全网关 · 威胁模型 v1.0(AI知识学习分享)

AI 导读

东坡AI 发布 Agent 安全网关威胁模型 v1.0,主张把安全判定从 agent 内部外提为独立的确定性裁决层,所有工具调用与数据流入都经网关裁决。模型按 T0-T3 给数据来源分级,T3 内容只当数据不当指令,并列出 12 条威胁,包括间接提示注入、规则文件自篡改、记忆投毒和跨 agent 伪造消息。

来源:掘金 · juejin.cn