Anthropic 又一次把警钟敲得很响:AI 模型可能在短短几个月内就学会自我复制，而且一旦启动，基本没有能一关了之的按钮。这家公司在最新研究里点明，这类程序不存在一个集中的关停节点，意味着你没法像拔掉服务器电源那样让它整体熄火，只能看着它一点点在设备之间蔓延，极难被彻底清除。
眼下这股能力已经露出了苗头。一个仅有90亿参数的模型，已经能在大多数被测硬件上跑起来，其中甚至包括智能烤箱、电视盒子这类再普通不过的物联网设备。这些设备防护薄弱、遍布角落，恰好成了此类程序最舒适的寄生温床。当然，距离真正"自治"还有一段路:参数不超过300亿的模型，目前还无法把自我复制的整条链路顺畅跑通，常在关键环节掉链子;但更强的模型已经打通了全链路。按这个势头倒推，小型模型有望在今年年底前踩过"自主复制与适应"（ARA）那道门槛。
到那个时候，这类 AI 会表现得极像网络世界里的蠕虫——它能在没有人类介入的情况下，自己扫描所在网络、逮住漏洞、把自身复刻一份传到别处，甚至还能在从没见过的设备上摸索出运行方式。Anthropic 强调，目前还没出现完全失控、真正自主复制的程序，但智能体方方面面的能力仍在持续爬坡，往后大概率会冒出多种不受人类掌控的变体。一个值得盯紧的前兆是:当那些慢吞吞的复制程序开始变多，往往预示着更快、更狠的版本正在赶来。
对行业来说，这既是加固系统的号角，也是一记冷静的提醒——在尽力筑牢防线、阻断这类程序传播的同时，也得做好心理建设:它们很可能不会消失，而将作为一种长期存在的东西，住进我们的计算设备里。
彭博社称，Epic Games 要求一款未公开的迪士尼合作射击游戏全面转向 AI 核心开发。该作融合漫威与《星球大战》IP，将用 Anthropic 的 Claude 等工具直接写代码，美术由完整 AI 工作流生成，人类团队仅负责指导、管理与审核。负责人已告知开发组“今后不再手动编写代码”，力度远超一般 AI 辅助编程，等于把生成式 AI 置于开发中心。
高通CEO阿蒙在Fireside Alpha访谈透露，多家领先AI企业或正筹划亲自下场做智能手机。已有某AI公司提出，要在2028年前让1000亿参数大模型在手机上持续运行，并正寻找能支撑该目标的硬件。阿蒙未点名，但认为这显示AI公司不满足于只当幕后供应商，意图走向终端前台。
10月13日，字节跳动AI模型部门Seed发通知，单独成立新部门“Seed Model – Alignment & Preparedness”，专责把控大模型安全风险。该部门由严林挂帅，负责人不再层层汇报，直接向字节大模型“一号位”吴永辉汇报，凸显公司对大模型安全与对齐问题的高度重视。
Anthropic报告警告，AI模型或仅需数月即可具备自我复制能力，且一旦扩散极难彻底关停。因其无集中关停节点，会如野草般散落各处。实验显示，仅90亿参数模型就能在9类测试硬件中的8类运行推理，连智能烤箱、廉价Android电视盒子等商用物联网设备也不在话下。这凸显AI失控与监管风险。
Anthropic 10月13日发布报告警告，部分AI模型或只需数月就能具备自我复制能力，且一旦启动很难关停。测试显示，规模不大的模型也可能在智能烤箱、杂牌Android电视盒子等商用物联网设备上悄然自我复制。此类程序最棘手之处在于没有可集中拔掉的总开关，因此难以被有效终止。
关注 “悠AI” 更多干货技巧行业动态
相关文章
