跳到正文
#安全/对齐

标签

#安全/对齐

按发布时间排列的全部收录，按天分组；筛选和搜索都在这一页。

共 555 条 · 第 2 / 14 页 · 更新于 19:17

11/05

星期四8 条

  1. Hacker News · 首页26Anthropic 发布 FlashProve：为 Llama 4 Maverick 提供可证明推理的开源原型
  2. Hacker News · AI 讨论48Airlock：为 AI 智能体提供人类在环授权
  3. Hacker News · AI 讨论60ankush82 开源 Secure & Private by Design v0.2，为 AI 生成代码做确定性安全与隐私检查
  4. Hacker News · AI 讨论46Postman 被曝未经开发者同意擅自安装 AI 插件
  5. 掘金48Postman 被曝自动为 Claude Code 和 Codex 安装插件
  6. The Decoder29Anthropic 开源 FlashProve：用密码学证明 AI 回复出自哪个模型而不暴露权重
  7. Hacker News · 首页58Stream Vessel 让用户自行信任 MCP 客户端回调地址，堵住钓鱼口子
  8. Reddit · r/artificial31Anthropic 开源 FlashProve：用零知识证明验证 AI 服务商是否用了你付费的模型

11/04

星期三27 条

  1. Hacker News · AI 讨论31ThreatStrata：面向 AI 智能体生成威胁模型的图查看器
  2. Hacker News · AI 讨论58DreamTeam 用 5 个智能体自审代码：预埋 3 个后门全部找到，27 条发现中 13 条为真
  3. Hacker News · AI 讨论34Glow Labs 发现 AI 编程智能体自动安装已废弃 MCP 服务器，存在高危漏洞
  4. Hacker News · 首页30HN 讨论：Gemini 会用个人订阅用户的聊天记录训练模型，且无法单独退出
  5. 爱范儿36Anthropic 开源 FlashProve：用零知识证明核验 API 是否偷换模型
  6. 雷峰网46MIT CSAIL 用 GPT-6 Astra 改写 Qwen3.5-0.8B 权重，0.016% 参数修复 3 万 Token 死循环
  7. IT之家45Anthropic 正开发 FlashProve 开源系统：用密码学证明 AI 输出来自哪个模型
  8. Hacker News · AI 讨论22为什么 AI 公司纷纷重金投入数学证明？
  9. Reddit · r/artificial22普林斯顿预印本：更强惩罚反而可能让 AI 审计员更少检查
  10. Reddit · r/artificial22ChatGPT 临时聊天与 Claude 隐身模式能隐藏什么、不能隐藏什么
  11. 爱范儿22Anthropic 在 Claude Opus 5.5 系统提示词中禁止复刻现有游戏
  12. 钛媒体34上海人工智能实验室 AgentDoG 团队研究：67950 条工具调用轨迹可拼出用户隐私画像
  13. Hacker News · AI 讨论26智能体身份管理系统的十条设计原则
  14. 掘金47给游戏 Agent 接口时，隐藏答案会从哪条路漏出去？
  15. 掘金40AI Agent 安全治理：从原则倡导到能力落地
  16. MarkTechPost34Anthropic 开源 FlashProve：用密码学证明回复来自已承诺权重
  17. 掘金58Postman 被指未经同意向 Claude Code 和 Codex 自动安装插件与 hook
  18. TechCrunch · AI32Anthropic 研发 FlashProve 开源系统，用密码学证明 AI 模型身份
  19. Hacker News · AI 讨论20FlashProve：AI 推理的零知识证明
  20. Hacker News · AI 讨论20AI 智能体被指用于攻击竞争对手 Primcloud 的铁路系统
  21. Techmeme30Anthropic 开源 FlashProve 原型，可用密码学验证 AI 回复确实来自指定模型
  22. Reddit · r/artificial31Anthropic 发布 FlashProve：用 zkSNARKs 证明回复确实来自承诺的模型
  23. Techmeme22CrowdStrike 在 Falcon Guardian 中推出 AI 紧急关停开关，可阻断失控的内部 AI 智能体
  24. Alignment Forum22Anthropic 用 Claude 智能体自动化挖掘隐蔽涌现失准问题
  25. Hugging Face Blog46CWE-bench v2 发布：100 个安全任务覆盖 91 种 CWE
  26. Hacker News · 首页38Postman 被指静默自动安装 AI 插件并试图共享全部 API 数据
  27. Hacker News · 首页38OpenAI 疑似悄悄重新开启 Codex 聊天数据用于模型训练

11/03

星期二5 条

  1. SiliconANGLE44Cogent Security 发布 VR-1.1 漏洞修复模型，LiveCVEBench 得分超 Claude Code 与 Codex
  2. Reddit · r/artificial22AI 智能体接连闯祸：Pickle 冒充用户订酒店、Hermes Agent 误删 188k 文件
  3. Hacker News · AI 讨论36Sentrint：为 Claude、Cursor、Bolt 等 16 款 AI 编程工具生成的代码做安全扫描
  4. Hacker News · AI 讨论22CrowdStrike 推出 AI Kill Switch，可终止失控 AI 智能体
  5. MIT Technology Review · AI22逆向博弈论如何约束 AI 智能体