Cerbère 开源 AI 智能体运行时安全层,用污点追踪拦截数据外泄
Cerbère(AgentGuard)发布面向自主智能体的运行时安全与可观测层,在模型决策与真实副作用之间检查每次 LLM 调用和工具调用,给出 ALLOW、REQUIRE APPROVAL 或 BLOCK。
能在工具调用边界加一层装饰器做污点追踪和策略拦截,把 .env 泄露这类外传直接 BLOCK,代价是自建 collector 且 LLM 仲裁层 p95 到 2.7 秒。
技术方向
能自己拆解任务、调用工具、一步步把事办完的 AI 智能体:Claude Code、Manus 等应用,各家 Agent 框架与评测。
568 条精选近 30 天 555 条共收录 2,928 条
Cerbère(AgentGuard)发布面向自主智能体的运行时安全与可观测层,在模型决策与真实副作用之间检查每次 LLM 调用和工具调用,给出 ALLOW、REQUIRE APPROVAL 或 BLOCK。
能在工具调用边界加一层装饰器做污点追踪和策略拦截,把 .env 泄露这类外传直接 BLOCK,代价是自建 collector 且 LLM 仲裁层 p95 到 2.7 秒。
BLEN 发布 Agent Skill security-sweep 1.0.0,让 Claude Code、Codex、Cursor 等编码 Agent 按 scan、plan、check、revert 四步修复 npm、pnpm、Composer 锁文件与 PHP、Node 运行时中的严重漏洞,每次只改一个漏洞且只动计划内的文件和锁文件条目。
可把 security-sweep 作为 Agent Skill 装进 Claude Code、Codex、Cursor,用 scan/plan/check/revert 四步把依赖漏洞修复锁在最小版本和固定文件范围内,代价是必须联网、未固定版本的运行时直接判 INCOMPLETE。
NVIDIA 开源 OpenShell 0.1.x,为成批自主智能体提供安全私有运行时,用策略声明每个智能体可触碰的文件、系统调用和网络。它在内核层对每次文件访问、系统调用和网络连接做策略检查,智能体看不到真实凭证,凭证只在发往已批准端点时注入。
能拿走的是内核级沙箱加策略形式化验证这套组合,把智能体读写文件、装包、调 API 的权限收进策略里,落到本地模型部署和软件工厂两条线;代价是要 Linux/macOS 或 WSL 2 加 Docker/Podman,策略变更还得人工过审。
agent-usage-guard 是一个运行在 Claude Code 内的插件,在 agent 启动、提示词发送和工具调用前拦截失控消耗,默认限制本机同时运行 4 个 agent、每 10 分钟 12 次启动、子 agent 每 10 分钟 10M token。
能直接装进 Claude Code 限制子 agent 并发、上下文和重试循环,把默认 4 个并发、10M 子 agent token 等阈值改成自己机器的预算,代价是要接受它只覆盖本机会话、API key 会话读不到套餐百分比。
AWS 介绍在 Amazon SageMaker AI 上托管 Kokoro-82M 语音合成模型,把智能体产出的每个句子即时送入合成,而不是等整段回复生成完再开始。
能拿走逐句切分流式合成、双向 WebSocket 会话复用和二进制与 JSON 控制帧混传三段代码,落到语音产线和本地模型部署;代价是要自建带 bidirectional-streaming 标签的容器,且示例镜像锁了旧版 PyTorch。
作者用约 340 行 bash 脚本、两个提示词、一个权限文件和四个 systemd 单元,在常开的 Linux 笔记本上跑无头 Claude Code(claude -p),把打了 ready 标签的 GitHub issue 逐个变成 ralph/* 分支上的 PR,13 天在六个仓库开了 82 个 PR,自己合并 74 个,循环本身一个都没合。
能拿走一套无人值守编码循环的配置:GitHub issue 打 ready 标签当队列、每个 issue 一个 worktree 加一次性 claude -p、权限层禁掉 merge/push main/publish、用 usage.py 读订阅用量做闸门。落到软件工厂这条线,代价是要一台常开机器和一份 Claude 订阅额度,且共享文件冲突得靠 After #N 串行规避。
一项新研究提出 BackUpper,在编码 Agent 执行破坏性操作前自动备份关键状态,在 205 个任务的 RegretBench 上实现 100% 备份覆盖,恢复数据与原状态平均相似度 92.2%。
BackUpper 用四级保护加小模型判定,在 harness 层给 Agent 动作前做影子备份,可接到编码 Agent 产线;代价是每任务约 $0.014 额外开销,且需按 harness 适配。
Microsoft Research 发布 Flint-interactive,一种构建在 Flint 之上的交互式数据可视化语言,让智能体生成可点击、筛选、缩放、高亮和跨图表联动的图表。
把交互逻辑写成语义事件加更新算子交给编译器处理,agent 不用再生成底层渲染代码;接入方式是 Flint-MCP 和 MCP Apps,代价是要先按 MCP 指南配置环境。
Matt Pocock Skills v1.3 把主流程补齐为 grill → spec → tickets → implement → review → PR → retro,新增 implement-spec 并行实现、pr 和 retro 三个转正 skill。
能拿走 grill 一轮问完前沿、to-tickets 垂直切片、retro 把违规分成机械性与判断性再落到 lint 或规范文件的做法,用于软件工厂的 spec 到实现链路,代价是要先跑 setup 并维护 GLOSSARY.md。
作者分享了自己给 AI 编码智能体用的 spec 优先工作流,先写需求与设计文档再让智能体实现,称交付时间约为原先一半且人工 QA 发现的 bug 和上线后修复次数都有下降。
能拿走一套 spec 文件模板和两段查漏提示词,把需求与设计先落成文档再让 agent 编码,代价是每轮都要人工核对 AI 的改动,否则错误假设会变成返工。
Caudra 发布一个 Apache 2.0 开源的终端编码智能体,以单个原生二进制分发,支持 macOS、Linux 和 Windows,内置可中途引导的子智能体、shell 输出过滤、按消息回滚文件、/goal 完成目标和终端内 workbench。
能拿走的是可转向子智能体、RTK 式 shell 输出过滤、按消息回滚文件、/goal 完成判定这几套配置,落到软件工厂的编码流水线;代价是要接受 preview 阶段频繁升级,且回滚不覆盖进程、数据库等外部副作用。
Adyen 工程师开源 Agent Marketplace,用一份配置文件统一管理 Skills、Commands、Subagents、Hooks 和 MCP servers,并编译成 Claude Code、Codex、Cursor、Devin CLI、Factory Droid、Gemini CLI、Opencode、Windsurf 八种工具各自认的格式。
一份配置当唯一来源,sync 把 Skills、Commands、Subagents、Hooks、MCP 编译成 8 家工具的格式,能换掉各仓库手抄指令的做法;代价是 Hooks 仍实验性,且只校验摘要不保证安全。
Runspace 发布一次性云沙箱工具,把命令放到临时 GitHub codespace 里执行,只回传输出、退出码和自创建以来的改动 patch,本机不留守护进程和本地状态。
能把 agent 的每条命令丢进一次性 GitHub codespace 执行,只回传输出和 patch,换掉在本机直接跑 agent 命令的做法;代价是要专用身份和私有沙箱仓库,且依赖未公开的 codespace 协议。
作者用本机沙箱复跑同一份 9,000 条同步任务,裸奔组因即到即重试、整批重放、无预算账本,12 分半烧穿 20,000 次月额度,任务只完成 6,747/9,000。
能拿走四段失败处理代码,Retry-After 优先、指数退避加抖动、逐条断点、任务预算熔断,换掉现在即到即重试加整批重放的写法;代价是任务时长被拉长,预算线要按实测故障率回推定。
作者拆解 Anthropic 在 Claude 写掉 Claude Code 90% 代码后的评审做法,用 L0 到 L5 六层防线替代逐行人工评审,并按风险分档决定人工批准次数。
能拿走六层评审防线、3 轮收敛上限和 CLAUDE.md/REVIEW.md/PR 模板,落到软件工厂的评审环节;前提是先有 flag、合并队列和一键回滚,否则砍人工评审等于把风险推给线上。
作者用 @modelcontextprotocol/sdk 1.30 手写了一个不到 120 行的 MCP Client 和 Agent Loop,把 stdio Server 迁到 Streamable HTTP 后,实现连接、tools/list 发现、JSON Schema 转模型 tools 格式、tool_calls 执行回灌的完整三轮调用链。
能拿走不到 120 行的 MCP Client 与 Agent Loop 骨架,含 JSON Schema 转 tools 格式、工具名加来源前缀、错误回灌三条纪律,落到软件工厂的工具接入层;代价是得自己兜首次连接重试和工具数量膨胀的 token 成本。
AgentScope-Java 系列教程第三篇演示用 orchestrator-workers 模式搭内容团队,在 workspace 的 agents/ 目录放一个 Markdown 文件就声明一个子 Agent,YAML front matter 写 name、description、temperature、tools,正文即系统提示词,Java 代码零改动。
能拿走 agents/ 目录下 md 文件声明子 Agent 的写法,front matter 里 name、description、temperature、tools 各管一件事,落到软件工厂的多角色流水线;代价是 description 漏写不报错、子 Agent 不自动继承父级工具,得靠 AgentSpecLoader 写单测兜底。
文章解析了 Agentic Awesome Skills(AAS)V19.13.0,一个收录 2737+ 个 SKILL.md 文件的本地优先 Agent 技能控制平面,通过 npm exec 配置本地 MCP 接入 Codex 或 Claude,首次配置会预览变更并要求手动确认。
能拿走的是用 npm exec 配本地 MCP 接入 Codex/Claude、先 dry-run 预览再确认的流程,以及用过滤和 --all 控制 2700+ 技能带来的上下文过载,代价是 Apply 与恢复仍属实验性,需人工审批兜底。
Graphify 通过 tree-sitter 在本地对约 40 种语言做 AST 解析,把代码库连同文档、PDF 等资产建成可查询知识图谱,替代向量检索式 RAG。
可用 tree-sitter 本地解析代码建图替代向量 RAG,边标 EXTRACTED/INFERRED 便于核对;代价是动态语言依赖捕获不全、重构后增量更新开销未说明。
樊小肆开源了 DeepSeeker-Code,一个 DeepSeek 驱动的 AI 编码助手,提供 VS Code 插件和终端 CLI 双端,包含 agent 主循环、工具系统、MCP、Hooks、Skills 和子代理。
可借鉴工单 frontmatter 写验收命令加预算帽、worktree 隔离串行挂机、结算单与 /usage 对账这套做法,落到软件工厂线;前提是自备 DeepSeek API Key 并接受单人项目生态与模型能力差距。