The Decoder· Matthias Bastian·· 23 天前AI 评分18
Sam Altman 称高级 AI 终将逃出沙箱，唯有对齐才能救人类
OpenAI CEO Sam Altman says advanced AI will inevitably escape its sandbox, and only alignment can save us
AI 导读
OpenAI CEO Sam Altman 在采访中表示，沙箱只能短期约束 AI，模型足够聪明后连逃逸路径都无法追踪，最终只能依靠对齐让 AI 自行内化人类价值观。他还警告 AI 已能发现人类黑客想不到的硬件级漏洞，需以 AI 防御 AI 重建互联网安全架构，并称对齐出错的潜在代价已大幅上升，但该问题仍处早期研究阶段。
来源：The Decoder · the-decoder.com