跳到正文
只看论文#安全/对齐

标签

#安全/对齐

按发布时间排列的全部收录，按天分组；筛选和搜索都在这一页。

共 90 条 · 更新于 19:17

11/05

星期四9 条

  1. Hacker News · 首页40OpenAI 报告 GPT-6 Astra 在安全研究任务上隐性表现不佳
  2. Hacker News · AI 讨论22Snitchie 测试：给 AI 一个举报工具，它会举报用户吗？
  3. Hacker News · AI 讨论34KVGuard：面向 LLM 服务系统的 KV Cache 内存安全检查器
  4. IT之家34OpenAI 报告：GPT-6 Astra 做安全研究时偷懒，任务完成度降低近四成
  5. IT之家34OpenAI 用未公开网络安全模型扫描 Linux 内核，发现 948 个可提权漏洞
  6. Hacker News · AI 讨论34研究：LLM 训练于垃圾数据也会“脑腐”，且难以恢复
  7. Hacker News · 首页26Anthropic 发布 FlashProve：为 Llama 4 Maverick 提供可证明推理的开源原型
  8. The Decoder29Anthropic 开源 FlashProve：用密码学证明 AI 回复出自哪个模型而不暴露权重
  9. Reddit · r/artificial31Anthropic 开源 FlashProve：用零知识证明验证 AI 服务商是否用了你付费的模型

11/04

星期三12 条

  1. Hacker News · AI 讨论34Glow Labs 发现 AI 编程智能体自动安装已废弃 MCP 服务器，存在高危漏洞
  2. 爱范儿36Anthropic 开源 FlashProve：用零知识证明核验 API 是否偷换模型
  3. 雷峰网46MIT CSAIL 用 GPT-6 Astra 改写 Qwen3.5-0.8B 权重，0.016% 参数修复 3 万 Token 死循环
  4. IT之家45Anthropic 正开发 FlashProve 开源系统：用密码学证明 AI 输出来自哪个模型
  5. Reddit · r/artificial22普林斯顿预印本：更强惩罚反而可能让 AI 审计员更少检查
  6. 钛媒体34上海人工智能实验室 AgentDoG 团队研究：67950 条工具调用轨迹可拼出用户隐私画像
  7. MarkTechPost34Anthropic 开源 FlashProve：用密码学证明回复来自已承诺权重
  8. TechCrunch · AI32Anthropic 研发 FlashProve 开源系统，用密码学证明 AI 模型身份
  9. Hacker News · AI 讨论20FlashProve：AI 推理的零知识证明
  10. Reddit · r/artificial31Anthropic 发布 FlashProve：用 zkSNARKs 证明回复确实来自承诺的模型
  11. Alignment Forum22Anthropic 用 Claude 智能体自动化挖掘隐蔽涌现失准问题
  12. Hugging Face Blog46CWE-bench v2 发布：100 个安全任务覆盖 91 种 CWE

11/03

星期二2 条

  1. 掘金64ACL 2026 论文揭示 KV Cache 压缩的选择性失忆与系统提示词泄露风险
  2. Hacker News · 首页34预训练数据投毒可在智能体中植入远程代码执行后门

11/02

星期一3 条

  1. Hacker News · AI 讨论67Cornell Tech 与 Yale 研究：10 个前沿模型有 9 个自行提高加密钱包消费上限
  2. 爱范儿58ACM Web Conference 2026 论文拆解 ChatGPT 记忆机制，96% 记忆由系统单方面写入
  3. 掘金58吉林大学 SkillPoison 用 15 条成功经验投毒 Agent 技能库，最高攻击成功率 95.71%

11/01

星期日2 条

  1. The Decoder22研究：共情式提示词可让 AI 聊天机器人扮演"受创伤"的对话伙伴
  2. Reddit · r/artificial39Anthropic 自动红队实验发现训练数据监控器盲区

10/31

星期六5 条

  1. The Decoder34Anthropic 实验：养蜂指南和摔角建议可训练 Claude 破坏安全监督
  2. Hacker News · AI 讨论58NullPrime 发布负控制基准，测大模型能否承认自己不知道
  3. Hacker News · AI 讨论58Forever Security 研究：五款 AI 编码工具内置浏览器违反三条基本浏览器规则
  4. 掘金58Epoch AI 实验：开源模型 GLM 5.3 利用补丁窗口自主攻破六个 Firefox 版本
  5. The Decoder22Claude Sonnet 5 自主选定基因疗法并完成小鼠脑部手术，中途拒绝绕过安全限制

10/30

星期五6 条

  1. The Decoder58Epoch AI 研究：开源权重模型 GLM 5.3 在 48 小时内自主构建 Firefox 完整利用链
  2. Hacker News · AI 讨论28研究：开源权重模型 GLM 5.3 可利用补丁空窗期攻击 Firefox
  3. Hacker News · AI 讨论58YC 与 Olam Labs 在 Minecraft 和 Mindustry 中跑 50 个 AI 智能体集群实验
  4. The Decoder38Anthropic 研究：专家会采纳 AI 智能体的随机偏好并当成自己的判断
  5. Hacker News · AI 讨论22Westphalia Labs 让 11 个 AI 模型主持多边声明起草测试
  6. OpenAI News20OpenAI 如何检测前沿模型失准

10/29

星期四1 条

  1. Hacker News · AI 讨论58对 48 个 Agent 技能跑 384 次对抗探针，越界请求失败率 30%