跳到正文
#安全/对齐

标签

#安全/对齐

按发布时间排列的全部收录，按天分组；筛选和搜索都在这一页。

共 555 条 · 第 3 / 14 页 · 更新于 19:17

11/03

星期二17 条

  1. 雷峰网36CNCC 2026 论坛：AI 视频生成该更真实还是更动人
  2. Hacker News · AI 讨论58AI Red Team Academy 发布免费开源 AI 攻防课程，含 8 个 Docker 实验
  3. 掘金64ACL 2026 论文揭示 KV Cache 压缩的选择性失忆与系统提示词泄露风险
  4. 掘金38谷歌、斯坦福、CMU 等五家机构 203 页综述解读：主动式 AI 的边界在哪
  5. The Decoder22Anthropic 在 Claude Code 中封堵游戏克隆，Opus 5.5 系统提示词新增两条限制
  6. 36氪 · 快讯10OpenAI 与 Cathedral Systems 达成网络安全合作
  7. 界面新闻 · 科技12OpenAI 与 Cathedral Systems 达成网络安全合作
  8. Hacker News · AI 讨论22Show HN：Trifecta Checker——AI 智能体的起飞前安全检查工具
  9. 掘金78用静态安检门禁扫 browser-use 出 176 个 BLOCK，作者逐条复核后仍集成
  10. 掘金58用 NVIDIA SkillSpector 在安装前扫描 AI 技能：三组样例实跑与覆盖检查
  11. 掘金36OpenAI 重写 Model Spec：五项核心价值观取代规则清单，首条强调忠于人类意图
  12. Hacker News · AI 讨论28Mandiant 披露 LLMJacking：被盗 AI API 密钥致单家企业近百万美元账单
  13. Hacker News · AI 讨论36Anthropic 为 Claude Code 加限制后，开发者主动降级旧模型绕开拒绝
  14. Hacker News · AI 讨论36用“防护服”而非“自卫课”保障 AI 智能体安全
  15. The Verge · AI22Anthropic 更新 Claude Code 系统提示词，禁止复刻现有电子游戏
  16. Hacker News · 首页34预训练数据投毒可在智能体中植入远程代码执行后门
  17. Techmeme22Anthropic 确认对 Claude Code 新增限制，防止其复刻他人特定游戏

11/02

星期一12 条

  1. Hacker News · AI 讨论67Cornell Tech 与 Yale 研究：10 个前沿模型有 9 个自行提高加密钱包消费上限
  2. SiliconANGLE32Google 报告：LLMjacking 攻击者单日刷出超 10 万美元云账单
  3. 掘金58开源项目收录 26+ 模型的 32 个安全提示词模板
  4. Rest of World22初创公司为西方市场重新对齐中国开源模型
  5. 掘金42Northflank 安全事件后，AI API Key 泄露该如何排查与轮换
  6. 掘金47Mistral Large 4 发布：万亿参数模型的编码与安全实测数据
  7. 爱范儿58ACM Web Conference 2026 论文拆解 ChatGPT 记忆机制，96% 记忆由系统单方面写入
  8. 掘金58吉林大学 SkillPoison 用 15 条成功经验投毒 Agent 技能库，最高攻击成功率 95.71%
  9. 掘金72大模型联动 CodeQL 与 Coverity 的静态扫描落地方案
  10. Hacker News · AI 讨论46Kilasec 推出 AI 流量护栏：无需 SDK，在网络边缘拦截 AI 智能体风险
  11. Hacker News · AI 讨论58Nonce 开源发布面向 AI 智能体的最小权限 Gmail 访问层
  12. Hacker News · 首页24疑似 Anthropic Mythos 级模型 numbat 检查点泄露

11/01

星期日10 条

  1. The Decoder22研究：共情式提示词可让 AI 聊天机器人扮演"受创伤"的对话伙伴
  2. 量子位22Anthropic 在 Claude Code 系统提示词中禁止复刻现有游戏
  3. 掘金60Agent 工具调用的四道坎：安全、MCP 协议成本、工具选择准确率与失败恢复
  4. IT之家22SpaceXAI 将于 11 月 7 日起为 Grok 生成文本添加隐形水印，响应欧盟 AI 法案
  5. Reddit · r/artificial39Anthropic 自动红队实验发现训练数据监控器盲区
  6. Hacker News · AI 讨论30AI 文本水印是否损害输出质量：Anthropic Claude 的 SynthID-Text 方案争议
  7. Hacker News · 首页22Anthropic 限制 Claude 用于游戏模组、反编译与逆向工程
  8. Hacker News · 首页22Anthropic 因用户触及更大模型训练而封禁账号
  9. The Decoder26Anthropic 为四款 Claude 模型加水印，两款旧模型可通过采样参数绕过
  10. Hacker News · AI 讨论64InBox Wall 开源本地邮件清洗器，为 AI 智能体拦截隐藏提示注入

10/31

星期六1 条

  1. The Decoder34Anthropic 实验：养蜂指南和摔角建议可训练 Claude 破坏安全监督