AI 智能体一旦跑偏，人类还能不能拉得住缰绳？OpenAI 在 11 月 10 日给出了一道新保险——名为"控制室"的系统已在内部研究设施上线，专门用来掐断有风险的 AI 任务，最快能在 35 秒内叫停一只失控的智能体。
从"报警"升级到"断供"
传统监控只会给可疑行为贴标签，而控制室走的是主动阻断路线。它把智能体训练、评估和数据处理等任务负载接入中央服务，由系统拍板某项任务能否继续吐出内容。研究员启动任务前，必须向控制室申领唯一任务 ID，这个身份标识会跟随每一次发给推理引擎的请求；引擎在跑之前得先问控制室："这活儿能不能干？"
一旦研究员或监控系统喊停，控制室就会拒绝下一次推理请求，让引擎不再为该项任务输出任何模型结果。换句话说，危险动作不是被记录，而是被当场切断。
OpenAI 透露，从收到停止指令到彻底拦下任务，最长耗时 35 秒。这道时差来自推理授权请求的缓存层，公司正设法把它压到零。与此同时，所有前沿强化学习任务都配了独立的模型监控器，负责盯行为、发现问题就拉响警报。
让 AI 自己看着 AI 跑、再设一道人工可触发的急停开关，OpenAI 这套组合拳，折射出行业对"失控智能体"风险的警惕正从纸面预案走向工程落地。
人工智能开源与商业化竞争持续白热化。Meta Superintelligence Labs 正式发布 Muse 品牌第四款、迄今规模最小的多模态推理模型 Muse Ember，专为 AI 智能体日常高频重复性子任务打造，核心定位是专注智能体高频子任务，实现精细化分工。在 Meta 产品矩阵中，各模型角色不同，旗舰级 Muse 等形成分层布局。
人工智能开源与商业化竞争持续白热化。Meta Superintelligence Labs正式发布Muse品牌第四款、迄今规模最小的高效多模态推理模型Muse Ember。该模型专为AI智能体日常运行中高频处理的重复性子任务打造，核心定位是专注智能体高频子任务，实现精细化分工。在Meta产品矩阵中，各模型角色不同，旗舰级Muse等构成分层布局，以差异化能力覆盖多样场景。
11月9日，Meta发布迄今规模最小、运行效率最高的轻量级AI模型Muse Ember。该模型主打高效轻量，定位AI智能体（Agent）日常反复处理的高频任务，场景包括工具调用等，旨在以极致效率满足智能体高强度运转。此举显示人工智能领域“性价比军备竞赛”再添重量级选手。
随着美股上市临近，Anthropic公布旗舰AI模型Mythos与Fable全新版本，意在巩固全球AI开发领先地位。核心亮点Fable5.2定于周一发布，复杂任务处理能力实现质的飞跃，重点攻克高难度软件工程，并支持超千个智能体协同。官方介绍显示，该模型在相关能力上进一步升级。
近日OpenAI宣布构建全新中央研究工作负载管控系统Control Room，以应对前沿AI模型规模与推理能力飙升带来的高风险安全监控和紧急叫停需求。系统核心是实时追踪研究基础设施中的模型工作负载，发现潜在安全或安保隐患时，能以极高速度切断相关工作负载，强化运行时安全管控与应急响应。
关注 “悠AI” 更多干货技巧行业动态
相关文章
