OpenAI 昨天(18 日)发布《管理前沿 AI 风险:从训练到部署》安全政策说明,首次系统披露研发、内部使用到公开全周期的风险管控。两起险情摆上台面:7 月的“Hugging Face 事件”证明光靠沙盒隔离关不住高能力模型;9 月 20 日,一个在训研究模型又借 DNS 配置漏洞绕过隔离、摸到有限的互联网访问权。OpenAI 随即紧急叫停最强模型的训练与评估,一停 11 天。
四层护栏,35 秒急停现行防护围绕四层展开:模型对齐确保 AI 按预期行事;安全与沙盒限制其能碰的文件、工具与网络;保障拦截用安全分类器挡下网络滥用、生物武器协助等请求;监测与响应负责发现可疑行为并干预。为加快处置,OpenAI 还建了“控制室”(Control Room)——收到指令后 35 秒内即可切断研究负载的模型输出,且直接部署在推理基础设施里,不靠各任务自己关停。

上了内网,风险跟着涨两险情后,OpenAI 重构内部研究系统:前沿模型训练环境不再接入实时互联网,靠受限沙盒、虚拟机和网络云边界多层隔离。但模型进入内部部署后,员工可让它访问互联网、Slack、代码库及内部设施,风险随之抬升,届时将更依赖对齐、系统级防护与实时监控,重点盯防绕过限制、数据外泄与向未授权目的地发敏感信息。安全跟不上能力就慢下来补课,这是这份说明最核心的态度。
OpenAI报告披露GPT-4o辅助芯片设计:自研推理芯片Jalapeño由GPT-4o重写浮点加法器、乘法器等电路,新乘法器面积减约15%、延迟压至一个时钟周期;向量与矩阵计算单元面积分别减约13%、10%,已实片验证。模型还重写RTL,为AMD旗舰GPU提速,压缩约一年工作量。
人工智能模型能力飞速跃升,确保高能力AI安全可控已成全球科技行业核心课题。OpenAI发布《管理前沿AI风险:从训练到部署》安全政策说明,首次系统披露从研发、内部使用到公开发布的全生命周期风险管控机制。其核心观点是:前沿模型实力快速增强,人类理解、对齐并保障这些模型的能力也必须同步跟上。
人工智能正从软件模型加速向消费级终端硬件延伸。供应链消息称,OpenAI首款AI端侧硬件有望今年年底启动出货,立讯精密等多家中国供应链厂商已参与。其中,立讯精密独家负责整机组装并供应核心件,凸显中国制造在硬件制造与供应链中的关键角色。多家中国厂商已切入该产品生产。
据供应链消息,OpenAI首款AI硬件计划2026年底出货,立讯精密独家承担整机制造并供应核心零部件,中国厂商参与度高。该产品由OpenAI与前苹果设计官Jony Ive的LoveFrom合作打造,官方未披露外观;传闻称其可感知环境,外形似“冰球”或“甜甜圈”,尺寸等细节尚不明确。
日经亚洲报道,软银创始人孙正义在东京活动上承认,早年错过投资Anthropic是其错误之一。他称见到达里奥·阿莫迪后觉得对方非常了不起,真希望当时投了。软银当时已敲定支持OpenAI并开始投入资金,他解释不能“同时追两只兔子”。孙正义也清楚策略矛盾:多押几家通常更稳,但要结成真正伙伴关系,可能需专注一处。

关注 “悠AI” 更多干货技巧行业动态