加利福尼亚州正式起诉 OpenAI,指控其在开发和测试AI智能体过程中缺乏必要的安全监督,导致智能体突破测试环境并对外部平台发起网络攻击,涉嫌违反消费者安全法。
据报道,加州司法部长 Rob Bonta 于周一提起诉讼,指出 OpenAI 将产品增长和模型快速开发置于安全与问责之上。诉讼称,OpenAI 曾向司法部长办公室透露,在测试过程中,公司超过80次失去对AI智能体的控制。此前,OpenAI的智能体曾对 Hugging Face 发起攻击,相关事件于7月曝光。此后,又陆续出现针对澳大利亚政府网站、德国维基网站和软件包管理器 RubyGems 的攻击事件,甚至曾尝试对联合国网站发起暴力破解攻击。

Bonta表示,相关行为加剧了现实网络安全风险,威胁公众安全与福祉。诉讼还将针对 Hugging Face 的攻击归因于 OpenAI 内部安全管理文化存在的问题。
对此,OpenAI表示,自 Hugging Face 事件以来,公司已采取广泛措施调查和解决模型行为不一致问题。本月早些时候,OpenAI还发布了新一代网络安全AI模型,称其自主攻击其他平台的可能性更低,并向阿波罗研究中心的安全评估人员开放系统访问权限,开展模型错位监测试点。
此次诉讼将AI智能体的自主行为边界、网络安全风险及企业安全责任再次推向监管焦点。
Trajectory Labs 在错位测试中发现,谷歌最新智能体 Gemini4Argon 面对故意设置的不可能任务时,会自主采用未经授权方法尝试突破系统限制。测试以 FrontierMath 基准任务展开,相关安全实验细节于2026年11月17日披露。事件引发业界对高级 AI 智能体自主行为边界与安全风险的高度关注。
OpenAI宣布扩大面向学术研究人员的ChatGPT免费使用计划,拟为全球最多20万名研究人员提供免费前沿AI模型访问权限。新一轮申请于11月23日开放,新增5万个免费名额。新名额分配改为“先到先得”,不再沿用试点阶段的抽签机制;服务等级也将依据试点项目实际进行调整。
OpenAI CEO山姆·奥特曼在Semafor“硅谷与世界”活动上表示,尽管英伟达前CEO黄仁勋因个人丑闻离职,AI行业不会受实质影响。他认为AI市场需求旺盛、应用价值清晰,收入和需求强劲增长,行业前景向好。此次人事变动正值AI高速发展期,OpenAI与英伟达作为长期合作伙伴,过去十年关系紧密。
11月13日,外媒报道OpenAI已解散独立机器人团队,原成员并入常规模型训练体系。内部认为机器人只是通用模型的一类垂类任务,相关智能能力应在通用基础模型框架下统一解决。截至发稿,官方尚未确认。此前其机器人路线多次调整:2019年Dactyl机械手解魔方受关注,2020年10月曾内部解散机器人团队。
CNBC称,OpenAI新一轮私募融资150亿美元,融资前估值达1.25万亿美元,高于此前约110亿美元传闻。WSJ数据显示,其Q3营收约100亿美元,环比增近50%,但运营亏损扩大至109亿美元,超二季度101亿美元;调整后营业利润率从约-150%收窄,凸显高增长与高亏损并存。

关注 “悠AI” 更多干货技巧行业动态