Reddit · r/artificial· /u/Few-Decision6287·· 11 天前AI 评分22
普林斯顿预印本：更强惩罚反而可能让 AI 审计员更少检查
Stronger penalties can make AI auditors less likely to inspect. An interesting problem in AI oversight.
AI 导读
普林斯顿一篇预印本建模了 AI 求解器被 AI 审计员监督的场景，指出对求解器不当行为施加更强惩罚，反而会削弱审计员的检查动机。原因是强惩罚让整体表现显得更对齐，审计耗费算力却难发现问题，变得不划算。该论文只是理论模型，并非来自已部署 AI 系统的证据。
来源：Reddit · r/artificial · reddit.com