Anthropic开源FlashProve:用zkSNARK证明回复来自已承诺模型且不泄露权重
· 来源:Anthropic
FlashProve让服务商对模型权重做隐藏承诺,再为每次回复生成可在普通CPU验证的密码学证明;在Llama 4 Maverick上单卡H100约110 token/秒出证。
Anthropic研究团队发布开源原型FlashProve,面向“可证明推理”(provable inference):模型提供方先离线发布对权重的短承诺(指纹),权重本身保持隐藏;用户发来提示并得到回复后,提供方再生成零知识简洁证明(zkSNARK一类),任何人只需承诺、提示与回复,就能在普通CPU上验证“这些token确实由该承诺对应的模型算出”,而无需持有权重。
性能测试以Meta开源的Llama 4 Maverick(约4000亿参数混合专家、4bit量化)为例:单张H100在约24请求批大小下,证明生成约110 token/秒,每1024 token请求的证明约19MB,GPU耗时约为同长度vLLM推理的约70–95倍。团队称相对此前开源系统有数量级加速,并借助Claude在密码学与系统层面做了大量优化;安全声明在Lean中给出可审计顶层定理,同时坦陈快速可执行代码与Lean/论文三者尚未形式化完全对齐。
当前限制包括:上下文约1024 token、针对整数化贪心解码版本、成本远高于普通推理,因此定位为研究原型而非产品。动机直指“用户无法确认云端是否偷换小模型或中途换模型”的信任缺口——尤其在闭源API场景。代码以Apache 2.0开源,GitHub仓库明确标注非维护、不接受贡献的研究工件。
对监管与企业采购而言,若未来成本下降,FlashProve一类方案可能成为“模型身份收据”的基础设施;目前则更多证明了前沿实验室开始把密码学可验证性认真做成可跑通的系统。