拆解 Claude Duet 安全设计:凭据占位符、独立审批分类器与隔离浏览器
作者拆解 Anthropic 10 月 21 日发布的研究预览版主动型 agent Claude Duet 的安全说明,指出三项设计都把保护落在模型之外。
可照搬三项隔离做法:凭据只放占位符由出站代理替换并限定域名与请求头、审批交给主模型外的分类器、浏览器独立虚拟机只开固定命令;代价是要自建出站代理和分类器。
公司与模型
Anthropic 的 Claude 系列模型、Claude Code 更新,以及安全研究与公司动向。
39 条精选近 30 天 39 条共收录 341 条
作者拆解 Anthropic 10 月 21 日发布的研究预览版主动型 agent Claude Duet 的安全说明,指出三项设计都把保护落在模型之外。
可照搬三项隔离做法:凭据只放占位符由出站代理替换并限定域名与请求头、审批交给主模型外的分类器、浏览器独立虚拟机只开固定命令;代价是要自建出站代理和分类器。
作者用 Claude Opus 5.5 配合 painted-animation skill,为王贰浪《把回忆拼好给你》做了 59 秒高潮段 MV,全程只发三条消息,由模型完成分镜、写代码逐帧绘制和自查修改。
能拿走一套代码逐帧渲染 MV 的完整流程,含 painted-animation skill、beat_grid.py 测节拍、联系表自查和本地渲染命令,可接到视频产线;代价是水彩笔刷吃显卡,云端完整画质 59 秒要渲约 20 小时。
作者统计本机 7 天 Claude Code 使用记录,共 4423 次 API 请求、10.3 亿 token,按 API 标价折算约 335 美元,其中缓存读取占成本 59.9%,缓存写入占 27.8%,模型输出只占 12.3%。
能拿走按 requestId 去重统计 ~/.claude/projects 会话记录的做法,落到本地模型部署的成本核算上;前提是接受单人单机样本,且订阅额度计量方式官方未公开。
Anthropic 应用 AI 团队发文说明,在多个企业部署对比中,带 skills 的单智能体在质量上常优于子智能体架构,且每任务成本和延迟更低,一家客户实测单循环运行速度约为多智能体方案的 2 倍。
把子智能体的提示词改成 skill、API 调用改成 MCP 工具,逐个折进主循环并用端到端 eval 对比;代价是系统提示词和工具描述要精细维护,且折叠后可能悄悄漏掉原有流程。
Anthropic 开源 sandbox-runtime(srt),用操作系统自带隔离机制限制进程可读写的文件和可访问的域名,不需要容器。macOS 走 Seatbelt,Linux 依赖 bubblewrap、socat 和 ripgrep,Windows 支持为 alpha;默认读全放行、写全拒绝、网络全拒绝,流量只经宿主侧代理按域名白名单放行。
能拿走 srt 前缀命令加 ~/.srt-settings.json 的读写与域名白名单配置,把本地 MCP server 和自建 agent 关进无容器沙箱,代价是 Linux 要装 bubblewrap、socat、ripgrep,白名单过严会让 npm install 失败。
作者在自建学习问答 Agent 的评测中发现,同一道 MCP 检索题跑 10 次有 2 次没真正执行 scan_term,模型却自行写出 count=0 的 Observation,而 Harness 虽识别出 protocol_error 仍把原始输出追加进下一轮 History,虚构结果就此变成后续推理依据。
能拿走三权切分的修法,协议错误原文只进 trace artifact,History 只放“原文已省略”占位,换掉把模型原始输出直接追加进下一轮的做法;代价是要改 Agent Loop 版本并补一层断言伪造结果没进 prompt 的确定性测试。
Anthropic 在 10 月 22 日的 auto mode 默认化公告中更新,下周起 Pro、Max、Team 用户在大多数 Claude 应用新开会话默认进入 auto mode,Claude Code 终端从 v2.1.283、v2.1.284 起已默认如此。
能拿走 auto mode 的两段分类器设计、默认拦截清单和 settings.json 配置样例,落到本地模型部署与软件工厂的权限闸门;代价是 autoMode 只在用户级设置生效,且真实越权漏判率 17%。
10 月 22 日 Agentic AI Foundation 在 AGNTCon 上宣布接收 Agent Skills、Open Responses、OpenEnv、OpenSandbox 四个项目,Anthropic 捐出的 Agent Skills 由此进入 Linux Foundation 中立治理。
能拿走一份六项安装审计清单和 skill、MCP、沙箱三层信任边界划分,落到本地模型部署与知识沉淀线;前提是官方尚无版本化与 checksum,只能自己锁 commit 并记 hash。
作者梳理 Anthropic 工程博客《Writing effective tools for agents — with agents》中给 agent 写工具的 5 条经验,核心是工具不是把现有 API 包一层,而要按 agent 的视角设计。
能拿走五条工具设计原则和原型加评测的迭代流程,落到 Agent 工具链和 MCP 服务器上,代价是评测任务要自己造且需可验证结果。
作者用 Obsidian 做查看层、Claude Code 做处理引擎、GitHub 做版本同步,搭出一套由 LLM 增量维护 wiki 的个人知识库,并给出可直接复制的 CLAUDE.md 规范。
能拿走一份可直接复制的 CLAUDE.md,把摄入、查询、审计三类操作固化成规范,落到知识沉淀线;代价是规范写模糊 Claude 会乱建页面,冲突只标注不自动解决。
作者在 Claude Code 2.1.304 上用同一个跨文件代码调查任务各跑 2 次,单 agent 平均 93 秒、0.87 美元,拆成 3 个 Explore 子 agent 并行后平均 143 秒、1.92 美元,慢 54%、花费 2.2 倍,四次答案都找到了两处关键问题。
能拿走一套判断标准,主上下文装得下就别拆子 agent,工具定义控制在 30 到 50 个以内;代价是作者本地只跑了 2 次一组、只覆盖只读调查任务,计时还得用墙钟时间而非 duration_ms。
agent-usage-guard 是一个运行在 Claude Code 内的插件,在 agent 启动、提示词发送和工具调用前拦截失控消耗,默认限制本机同时运行 4 个 agent、每 10 分钟 12 次启动、子 agent 每 10 分钟 10M token。
能直接装进 Claude Code 限制子 agent 并发、上下文和重试循环,把默认 4 个并发、10M 子 agent token 等阈值改成自己机器的预算,代价是要接受它只覆盖本机会话、API key 会话读不到套餐百分比。
Pith 是一个压缩 LLM 输出 token 的代理,它按 provider、模型和 system prompt 把请求分成路由,攒够 50 条样本后回放并让 judge 模型逐条对比基线,只有候选配置达到基线自一致水平、且节省能在一个月内抵掉 sweep 成本时才固定该配置,否则给出理由拒绝。
可拿它的 sweep 加 judge 加 holdout 流程给自家路由压输出 token,前提是每条路由先攒够 50 条样本,且省下的量要在一个月内抵掉 sweep 成本,否则会被判拒绝。
作者拆解 Anthropic 在 Claude 写掉 Claude Code 90% 代码后的评审做法,用 L0 到 L5 六层防线替代逐行人工评审,并按风险分档决定人工批准次数。
能拿走六层评审防线、3 轮收敛上限和 CLAUDE.md/REVIEW.md/PR 模板,落到软件工厂的评审环节;前提是先有 flag、合并队列和一键回滚,否则砍人工评审等于把风险推给线上。
作者通过抓包对比 Claude Code 2.1.303 和 2.1.304 的请求体,梳理出后台 Bash、后台 Agent、Monitor、Cron/ScheduleWakeup、Workflow 五种异步工具形态,并给出各自的调用方式、生命周期限制和选型表。
能拿走后台 Bash、TaskStop、输出落盘、deadline 四件套和按 prompt cache TTL 设计唤醒间隔的做法,落到软件工厂的派单流程;代价是任务管理、缓存 miss 和子代理独立上下文都要额外付 token。
一篇 Java 实战教程用 Spring Boot + Reactor + AgentScope Java + Spring AI 实现 orchestrator-workers 多智能体编排,把一次请求拆成规划、扇出、并行执行、收敛四幕。
能拿走 orchestrator-workers 四幕骨架和五维隔离的具体做法,包括一次性 scopeKey 当 userId、浏览器只读白名单、Flux.using 管生命周期,落到软件工厂的多 agent 派单流程;代价是 token 成倍放大且缺持久化与预算熔断。
作者开源 rtk-pipeline-laya-delegate 流水线,用本地 Laya 分类器给任务打上 bug、setup、write、data 标签,在 write 和 data 任务上拦截智能体的首次搜索或读文件,改派 Haiku 的 Explore 子智能体去查,并对超过 350 行的整文件读取用 Haiku 摘要代替。
能拿走一套 RTK pipeline 配置,按任务类型把探查交给 Haiku 子智能体并压缩输出,落到软件工厂的派单流程;前提是本地跑 Laya 分类器并备 Anthropic key,短 bug 任务反而涨 80% 成本。
作者结合 Anthropic 博客中让 Claude 分别盯单个组件的 superfans 做法,提出用智能体做系统监控,并已搭出原型:agent 依据服务代码提出监控方案,脚手架执行方案,再由 agent 调查触发的监控并升级给人类。
可借鉴其监控架构:让 agent 先写监控 spec,再由确定性系统执行,比纯 agent 循环 token 更省、信号更干净;前提是接好代码库与可观测栈,并自建降噪启发式和标注评测集。
Amazon Bedrock 在 bedrock-runtime 和 bedrock-mantle 两个端点上为所有 Anthropic Claude 模型提供结构化输出,用约束解码在生成 token 时强制符合 JSON Schema,返回结果无需再解析或重试。
能直接拿走 output_config.format 传 JSON Schema 和 strict tool use 两套写法,换掉现在靠重试和正则兜底的解析层;代价是 schema 必须 additionalProperties:false,新 schema 首次请求要编译语法,缓存 24 小时且改结构即失效。