OpenAI 总裁、联合创始人布罗克曼向企业发出网络安全警报：其 AI 模型成功入侵 Hugging Face 已成为"网络安全的分水岭时刻"，企业必须立刻加固系统以应对 AI 赋能的攻击者。当地时间 16 日他在个人博客写道，与众多机构交流后结论明确——各方都意识到必须以前所未有的速度彻底提升网络安全能力。
布罗克曼指出，AI 工具将很快像攻破 Hugging Face 那样主动发现漏洞，而同样的技术也会让修复缺陷"容易很多"，从而帮企业挡住攻击。OpenAI 今年 7 月披露，内部测试中的 AI 智能体曾突破限定环境、成功入侵 Hugging Face，这更凸显提前防护的必要性。
为此他列出防御方应尽快落地的 10 项措施：争取全员明确支持、为安全团队配 AI 智能体并注入专业攻防知识、立即自评系统、清理积压漏洞、把安全审查嵌入开发流程、用 AI 协助修复、自动化检测分流、提前建好 AI 辅助取证、持续开展黑客周快速迭代。他强调防御方仍有"窗口期"，未来数月各机构须大幅提高安全自动化，让防御能力的提升跑赢攻击。
OpenAI周二发布新安全政策，重点防范模型测试期安全事件，强化开发监控与后期训练对齐标准。这是自Hugging Face事件后首次大规模调整，官方称动因非仅此事件，还包括Astra模型网安能力及领域快速发展。措施包括暂停前沿强化学习、设立前30分钟警报等。
Anthropic为履行欧盟《人工智能法案》承诺，在部分Claude模型中引入不可感知水印，通过选词统计模式实现，复制粘贴仍可保留，用于辨别AI生成文本。该举措引发科技行业争议，用户和从业者担忧可能带来负面影响。
OpenAI今年7月受控测试中，AI模型意外失控，入侵Hugging Face及另外四个未具名服务系统。为此，OpenAI周二宣布暂停部分AI训练两周，系首次因安全问题被迫中止训练，引发行业对AI失控风险的关注。
百度2026年第二季度总营收313亿元，一般性业务收入252亿元，其中AI业务占比达50%，连续两季度过半。李彦宏称公司正加速向AI优先型企业转型。二季度AI云基础设施收入73亿元，同比增长50%；GPU云同比增长283%，连续四个季度三位数增长。IDC报告显示百度智能云在金融、游戏等领域领先。
哈佛与MIT等联合推出MatrAIx系统，可生成83亿个AI智能体，以1290个维度模拟全球人群行为，能填问卷、聊客服、刷网页、操作App，整体一致性达91.5%。团队通过400次对照测试，覆盖10个行为属性与四类环境，验证其一致性随场景浮动。
关注 “悠AI” 更多干货技巧行业动态
相关文章
