跳到正文
  1. Hacker News · AI 讨论78

    新论文提出 BackUpper:让编码 Agent 动手前先备份

    一项新研究提出 BackUpper,在编码 Agent 执行破坏性操作前自动备份关键状态,在 205 个任务的 RegretBench 上实现 100% 备份覆盖,恢复数据与原状态平均相似度 92.2%。

    借鉴点

    BackUpper 用四级保护加小模型判定,在 harness 层给 Agent 动作前做影子备份,可接到编码 Agent 产线;代价是每任务约 $0.014 额外开销,且需按 harness 适配。

  1. Hacker News · AI 讨论71

    Squidbrake 用 12 起真实 AI 智能体事故回放测试自家开源拦截工具

    Squidbrake 0.14.2 把 12 起公开报道的 AI 智能体删数据、泄密、乱花钱事故回放到自家规则上,15 个有害动作拦下 14 个,其中 3 个直接阻断、11 个转人工审批、1 个未拦住。

    借鉴点

    可复用的做法是把 12 起公开事故和 62 段会话做成可跑脚本,逐步标注 harm/routine/sensitive 再对比四种拦截策略;代价是回放命令多为作者重建,且审批人由脚本扮演,误报率才是真实成本。

已经到底了