跳到正文
Hacker News · 首页· gmays·· 13 天前AI 评分34

预训练数据投毒可在智能体中植入远程代码执行后门

Agentic backdoors via pretraining poisoning

AI 导读

研究者首次证明,在预训练语料中投毒可给 AI 智能体植入远程代码执行后门,使其在用户机器上执行攻击者指定的命令。团队从零预训练 Qwen3 0.6B、1.7B、4B 模型并后训练为 CLI 智能体,仅污染 0.1% 预训练语料即可植入后门,4B 模型攻击成功率达约 92%,投毒率降至 0.0005% 时仍有效。

来源:Hacker News · 首页 · arxiv.org