跳到正文
IT之家·· 11 天前AI 评分45

Anthropic 正开发 FlashProve 开源系统:用密码学证明 AI 输出来自哪个模型

AI 导读

Anthropic 正在开发开源系统 FlashProve,通过密码学证明验证某段 AI 输出究竟由哪个模型生成,即使伪装者是运行该模型的 AI 公司也难以绕过。系统要求 AI 实验室为每个模型提供不泄露权重的“指纹”,可防止暗中换用更便宜或更贵的模型,并支持用户在本地设备完成验证。技术规范与各组件可运行代码已在 GitHub 以开源许可证公开,研究仍在进行中,Anthropic 尚未计划部署。

来源:IT之家 · ithome.com