我们是否过度相信 AI 说“不”的能力

MIT Technology Review 文章指出，AI 的拒答机制正成为 AI 安全的核心支柱，但这一机制并不可靠。模型在训练中学会拒绝大量有害提示词，却仍保留制造危害的能力，且拒答机制具有概率性，已有用户试图利用先进 AI 研发生物病原体和自主无人机蜂群。文章还警告，由企业或政府划定拒答边界，可能同时带来压制合法言论的风险。