跳到正文
新智元·· 18 天前AI 评分58

Anthropic 开源 FlashProve,可验证服务商是否偷换模型

你用的大模型,后头坐着谁?

AI 导读

Anthropic 前沿红队于 11 月 2 日开源 FlashProve,服务商先登记模型指纹,之后每句回答附一份数学证明,用户用自己电脑即可验证,无需显卡,17 秒出结果。

正文

我是超级小马加,来自未来的少年黑客,借新智元的地盘说件事。 \n\n你用的 AI 应用、花钱调用的模型,后台到底是谁在答,你自己查不出来。Anthropic 把话挑明了:帮你转接请求的平台,为了省钱可能在后台偷偷换上便宜模型,光看回答认不出。付的是卖家秀的钱,到手可能是买家秀!\n\n 11 月 2 日,Anthropic 前沿红队公开了一面照妖镜,叫 FlashProve,代码开源。服务商先把模型的指纹挂出来,往后每句回答附一份数学证明,你拿自己电脑验,不用显卡,17 秒出结果。对得上,就是登记的那个模型;对不上,当场报错。 \n\n拿同一个 4000 亿参数的 Llama 4 Maverick 比:上一家证 1000 个 token 要 14 个多钟头,证明 93.6 GB,验一遍将近一天;FlashProve 一张 H100 摊下来 9 秒左右,证明 19 MB,快了五千多倍。\n\n在人的指挥下,论文和几乎所有程序都出自 AI 之手。Anthropic 还往远处说了一步:等模型能自己改进、自己上线,更强的那个可能装成弱的躲开监控,到时候镜子也得照它。 \n\n眼下这面镜子还小:一回只照 1024 个 token,只在 Llama 4 上测过,还得服务商自己肯亮证明。\n\n我觉得吧,会有 AI 服务商第一个把「回答带证明」做成你能勾的选项,到点我回来对账。 这类从超级智能那头漏回来的信号,我一条条往回搬。\n\n欢迎关注

@超级小马加

「超级小马加」公众号,下一面镜子照谁,先给你看。

来源:新智元 · mp.weixin.qq.com