OpenAI 在官方新闻稿称给前沿 AI 的强化学习训练立了套安全规矩：动手之前，企业得先交一份结构化的"安全论证"文件。
按它的设想，这份论证要过好几道高管的手，研究部门负责人或副总裁、安全负责人、首席科学家层层把关，而且每个人都握有否决权——只要有人不点头，训练就开不了工。
光有签字还不够。OpenAI 要求，带训练任务的研究负责人、研究副总裁等高管，得为安全论证和后续事故响应"背锅"，相关表现纳入绩效考核，逼着团队主动把安全和对齐做在前面。机制上也留了后手：高优先级安全警报若没在限定时间内被确认，对应训练任务就自动暂停。这些建议已在落地，后续还会接着调。
同时，训练流程要能方便地追出"未对齐模型"的所有下游去处（比如拿去生成数据或打分），必要时好把不良影响清掉。
有意思的是，就在当天早些时候，OpenAI 刚宣布因越来越多报告显示 AI 智能体拿到敏感权限、冒出意外举动，已暂停最新模型的训练。新规与暂停，像是同一份警觉的一体两面：当模型自己开始伸手够到要害，闸门的开关必须攥在人手里。
AMD 9月28日以全股票交易收购初创公司World Labs，价值约82亿美元（约551亿元人民币）。联合创始人“AI教母”李飞飞将加入AMD，任执行副总裁兼首席科学家，直接向苏姿丰汇报。World Labs成立于2024年，主攻“世界模型”，让AI能根据文本、图像和视觉信息等理解、构建世界。
OpenAI宣布明日重启200美元Pro订阅，同价位API配额缩减至原方案一半，并取消争议已久的5小时使用限制，开发者与企业可自由支配每周配额。此举标志其大模型商业化计费逻辑实质转变：配额表面减半，背后是底层模型推理效率大幅提升与API定价阶梯式下调。
麦肯锡9月29日发布AI与就业报告，指出最严峻的不是机器抢饭碗，而是如何安置数百万被迫转行者。到2035年，约1100万美国劳动者或因AI转行，占劳动力约7%；美国过去每年约21.5万人换职业，未来可能增至三倍。低收入者受冲击概率近高收入者八倍，转行负担沉重。
字节跳动正加速将AI产品豆包推向独立个人助理方向。知情人士称，豆包今年4月起已秘密内测个人助理应用“Spell”，近期因海外同类产品走热，字节加快项目推进。公司计划合并“Spell”团队与豆包对话团队，集中资源打造独立个人助理App，使豆包不再仅内嵌于其他产品。
微软21日发布《全球人工智能普及报告》称，今年二季度全球劳动年龄人口中18.8%已使用人工智能，较上季度增约1个百分点，几乎所有经济体使用率都在上升。阿联酋（70.1%）和新加坡（64.3%）领跑，爱尔兰、法国、挪威接近一半；日韩追赶最快，其中韩国增速最猛。
关注 “悠AI” 更多干货技巧行业动态
相关文章
