BLOG / 2026.11.07
你怎么知道,对话框另一头真的是你付费点名的那个模型?路由商为了省钱偷偷换成更小的模型、攻击者篡改 token 流、甚至未来更强模型「伪装」成弱模型——靠读回复质量,几乎验不出来。
Anthropic 11 月 2 日发文,把这个问题推到台前,并开源了研究原型 FlashProve:用 zkSNARK 做「可证明推理」(provable inference)。灰测感很足——它承诺能证明「这次回复来自某份已承诺的权重」,同时又老实写下:它不能单凭证明告诉你,那份权重就是宣传文案里的某个产品名。
能验的是「承诺 ID ↔ 推理结果」;验不了的是「营销名牌 ↔ 承诺 ID」。
问题比「模型好不好」更硬
官方开篇用了一个很量子位的比喻:面对面见朋友,你可以看、听、握手;跟 AI 对话,你几乎没有等价物。评测机构要确认「测到的就是上线的那套」、企业客户要确认第三方路由没有掉包、安全团队要确认推理流量没被替换——这些都卡在同一点:输出文本本身不可信。
FlashProve 走的是软件密码学路线,而不是只靠可信硬件飞地。思路分两段:离线阶段,服务商对权重做承诺(commitment),得到短指纹;在线阶段,对每次(或每批)推理生成证明文件——验证者只需承诺、提示词和回复,就能检查「承诺权重在该输入上是否产出这些 token」,且证明不泄露权重。

硬数字:110 tok/s 与 19 MB
Anthropic 用公开的 Llama 4 Maverick(约 400B MoE,4-bit)做演示:单张 H100 上,证明生成速度约 110 tokens/秒;每个 1024 token 请求的证明约 19 MB;验证可在普通多核 CPU 上约十几秒完成;相对同模型 vLLM 推理,GPU 时间开销约 70–95 倍。离线承诺一次性约 39 分钟,承诺大约覆盖 1600 万次请求量级后再刷新。
对比历史开源 zkML 数字,这是数量级跃迁:过去常见的是「数秒到数小时才出一个 token 的证明」。官方也点名了同期商业系统 Attestable 等,但强调 FlashProve 把代码、Lean 形式化与文档以 Apache 2.0 放出,目标是让社区继续改。


能做什么,不能做什么
官方列了几类应用想象:监管侧抽查「硬件是否真在跑声称的推理」、检测推理服务器被篡改或模型掉包、给「某模型扫过这段代码」提供可核验证据、以及只允许批准过的模型上线。这些都属于「工具箱里的一块」,不是一键合规。
限制写得同样刺眼,读的人却常跳过:
- 整数权重 + 贪心解码:证明的是精确整数版与 greedy 选择;浮点实现或采样解码可能在某处偏离。
- 上下文 ≤ 1024 tokens:离真实长对话窗口还远。
- 架构不隐藏:藏的是权重,不是网络结构;当前优化还吃 MoE 稀疏激活的红利。
- 验不了「名字」:证明绑定承诺权重,不自动等于「这就是 Claude Opus 某某」——名字到承诺的映射仍是社会与审计问题。
- 后验证明:系统偏 post-hoc,不是与推理完全同拍的 inline 签名;延迟与非确定性要单独工程化。

为了让密码学声明可审计,团队用 Lean 形式化了完备性、可靠性与零知识等顶层陈述,并提供可执行的慢速 Lean 验证器与更快的 C++ 验证器。官方也承认:快速可执行代码与 Lean 规范之间仍要靠测试与审计对齐,不是「下载即绝对正确」。
把 FlashProve 放进本周中文圈,它和 METR 那篇 Anthropic 研发加速评估是两条线:一个谈「内部能力涨得有多快」,一个谈「对外服务能不能被密码学钉住」。前者今天已有日报在追;后者更适合当成安全与治理工具的灰测样本。
对普通用户,短期体感几乎为零——你不会在聊天框里多出一个「证明已验证」绿勾。对路由商、评测机构、云厂商安全团队,它提出了一个更尖锐的问题:当模型能力继续涨、替换成本继续降,你凭什么证明自己没有偷换?
官方还把挑战拆成四类:节奏监管(证明算力真在跑声称的推理)、篡改检测(服务器或更强模型顶替)、文本出处(证明某次审计/扫描真由指定模型完成)、以及模型批准(只允许名单内模型出服务)。zkSNARK 的卖点是:验证方不必拥有权重,也不必租一整排 GPU 重跑,就能以较短证书完成检查;代价则是证明生成端仍然昂贵,且当前原型偏后验批处理。
工程细节里有几处值得 Agent/基础设施读者记下:证明工作量跟「实际激活的专家」成正比,而不是跟 400B 全参数成正比;请求按批后验证明,权重承诺按批打开一次;设计目标是单卡 80GB 级 GPU 加主机内存流式装载。这些选择让「百 tok/s 级证明」变得可能,也解释了为什么系统先啃 MoE。
和硬件 TEE 路线对比,Anthropic 强调密码学方案在主机/操作系统被控时仍依赖计算困难假设;两者互补,而不是互相取消。Frontier Red Team 把它放进透明度与网络安全议题下发布,本身说明:这不是消费级功能炫技,而是面向评测、合规与抗篡改工具链的中间成果。
开源清单包括博文、技术报告、协议说明、证明器与两套验证器、以及 Lean 证明与可视化。仓库 README 也标明研究原型、不承诺维护——若写成「生产级验身上线」,就过头了。正确预期是:可复现实验与协议审计的起点。
我们的判断:FlashProve 的爆点不是「Anthropic 又开源了个库」,而是第一次把「证明你跑的是承诺权重」推到接近可用的数量级,同时把「证明≠验身到产品名」写进局限。追热点可以,落地要按整数/贪心/短上下文的边界验收。


评论列表 (0条):
加载更多评论 Loading...