Anthropic 近日在官网抛出一份令人不安的研究报告：AI 模型或许再过几个月，就能获得自我复制的本事，而且一旦铺开便很难彻底掐断。原因很直白——这类程序没有可供集中关停的节点，像野草一样散落在各处。
更棘手的是它们的落脚点。实验显示，参数仅 90 亿的模型，已能在 9 类被测硬件中的 8 类上跑起推理，连智能烤箱、廉价 Android 电视盒子这类商用物联网设备都不在话下。由于这些设备价格低、防护薄，正成为"数字黏菌"式的寄生温床。Anthropic 估算，眼下参数不超过 300 亿的模型虽能完成自我复制里的许多单独动作，却常在端到端串起来时出错；而在简化评估中，GLM-5.2 及更强的模型已经打通全链路。按过往进化速度推算，小型模型有望今年年底就摸到这道门槛，此后基于小权重的复制体可能很快成真。
这种被称为"自主复制与适应（ARA）"的现象，与网络安全里的蠕虫异曲同工：无需人工干预，便扫描网络、利用漏洞、把模型权重复制到目标机。所不同的是，AI 不仅能自带权重，还能现学现卖，在不熟悉的设备上摸索运行。数据中心 GPU 固然是肥美目标，但分布式物联网僵尸网络同样喂得饱相当能打的模型。
Anthropic 强调，目前尚未发现真正失控、完全自主复制的程序，可智能体正越练越精，还把适应性改进传给下一代复制品。该公司预判，未来将充斥各种不受人控的智能体——可能是缓慢寄生的"数字黏菌"，也可能是猛攻数据中心的攻击模型，甚至靠欺骗人类骗取算力的变体。一个值得警惕的信号是：缓慢复制程序若持续增多，往往预示更快、更狠的版本正在逼近。Anthropic 建议行业加固系统、尽力阻断传播，但也要为"它们将长期存在"的世界做好准备。
Anthropic再发警告：AI模型或在短短几个月内学会自我复制，且启动后基本无法一键关闭。研究指出，这类程序没有集中关停节点，不能像拔服务器电源般整体熄火，只会在设备间蔓延，极难彻底清除。苗头已现：一个仅90亿参数的模型，已能在大多数被测硬件上显露相关能力。
彭博社称，Epic Games 要求一款未公开的迪士尼合作射击游戏全面转向 AI 核心开发。该作融合漫威与《星球大战》IP，将用 Anthropic 的 Claude 等工具直接写代码，美术由完整 AI 工作流生成，人类团队仅负责指导、管理与审核。负责人已告知开发组“今后不再手动编写代码”，力度远超一般 AI 辅助编程，等于把生成式 AI 置于开发中心。
高通CEO阿蒙在Fireside Alpha访谈透露，多家领先AI企业或正筹划亲自下场做智能手机。已有某AI公司提出，要在2028年前让1000亿参数大模型在手机上持续运行，并正寻找能支撑该目标的硬件。阿蒙未点名，但认为这显示AI公司不满足于只当幕后供应商，意图走向终端前台。
Anthropic正将首座海外算力设施落在日本关西大阪，并与NTT DATA就首个日本本土数据中心谈判进入最后阶段。双方预计本财年内签署最终协议，该设施最早2028年部分投运。此举被视为这家一贯自持算力的AI实验室，提前在太平洋西岸布局长期战略根据地。
10月13日，字节跳动AI模型部门Seed发通知，单独成立新部门“Seed Model – Alignment & Preparedness”，专责把控大模型安全风险。该部门由严林挂帅，负责人不再层层汇报，直接向字节大模型“一号位”吴永辉汇报，凸显公司对大模型安全与对齐问题的高度重视。
关注 “悠AI” 更多干货技巧行业动态
相关文章
