跳到正文
Hacker News · AI 讨论· gilneto8·· 24 天前AI 评分38

银行对账单PDF可藏隐藏指令,向AI模型注入提示词

A bank statement can carry hidden orders for an AI

AI 导读

银行对账单PDF的隐藏文本层可向读取它的语言模型注入指令,人眼看到的却是正常账单。Redact 10月19日披露 WhatsApp 帮助页面藏有面向 AI 的隐藏文字,545 页中 80 页存在,Meta 称是 bug 并已移除。作者用自建工具 Damasqo Capture 测试,隐藏金额或隐藏交易会因对账不平被拒,但隐藏指令会原样进入交易描述并返回 SUCCESS。

来源:Hacker News · AI 讨论 · gil-neto.com