Anthropic 正开发开源验证系统 FlashProve，目标直击一个痛点：你收到的 AI 回答，到底是不是你以为在用的那个模型生成的。公司周二博客称，它要做的"可证明推理"，是用密码学为每条输出出具数学保证，证明确实出自指定模型——就像加密邮件签名帮收件人确认发件人，FlashProve 专门防备"把甲模型伪装成乙模型"。
堵住成本作弊暗门，也拆穿"注水"成绩单
研究人员点破长期潜规则：有了它，AI 公司难以为省成本在后台偷偷把贵模型换成廉价版；反过来，企业也没法暗中将便宜模型伪装成高价型号、人为抬高跑分。它还能核验第三方宣传——比如某开发者声称代码库已被前沿安全模型扫过漏洞，或某公司商业计划得了相应模型背书，用户从此有了追问"凭什么信你"的抓手。
关键设计：AI 实验室只需为每个模型提供一枚"指纹"，再把输出与之匹配、密码学验证来源；指纹不会泄露模型权重——那串决定行为的内部参数，正是闭源命根子。实验室可公开指纹而不交核心资产，FlashProve 也就能适配商业闭源模型。系统刻意做轻，用户本地即可验证。Anthropic 已放出技术规范与可运行代码（GitHub 开源），但强调研究仍在进行，暂未打算自部署。
人工智能开源生态繁荣催生“套壳模型”乱象：部分开发者将开源模型稍作包装、偷换权重或篡改输出，便宣称自研新模型。为从根源打击乱象，AI明星企业Anthropic推出并开源大模型可证明推理系统FlashProve。该系统依托底层密码学技术，可精准验证模型真实身份，遏制套壳造假。
大模型供应链存在“掏顶配钱却跑缩水模型”灰色地带。Anthropic联合零知识证明学者开源FlashProve：上线前单张H100约39分钟生成权重“手印”ID并公开；每次对话后GPU生成约19MB证明；用户普通CPU跑cp_verify，17秒验真，无需权重和GPU。底层zkSNARK每请求约2000个sumcheck，安全依赖BLAKE2。AI写代码，Lean验证，人类只守六条铁律。
Anthropic Claude Code产品负责人Cat Wu已离职。她在X称周五是最后一天，未透露原因及去向。她曾负责Claude Code和Cowork。此前在Scale AI、Dagster任工程师，后任职Index Ventures，2024年8月加入Anthropic，先做研究方向产品经理，后参与Claude Code及Cowork。
今年10月，OpenAI高管会议室被偷放录音设备。美司法部10月13日通报，涉案者为35岁沙特公民、时任OpenAI工程师阿尔福赞，设备藏于卫生纸中。多名前员工并不意外，称公司安全积弊已久：早在2022年底ChatGPT问世前，就有人警告安全管理问题，却多年未被重视。路透社援引5名知情人士披露。
2026年11月3日，Anthropic宣布推出开源系统FlashProve，为AI模型身份验证与输出真实性提供密码学层面的数学保证，致力于实现“可验证推理”。它可防止服务提供商秘密替换模型，如以低成本模型冒充高性能模型或夸大性能，也能验证第三方对复杂任务执行情况的声明。技术实现部分原文未完整披露。
关注 “悠AI” 更多干货技巧行业动态
相关文章
