OpenAI 前研究员、现任 AI 未来项目负责人丹尼尔·科科塔伊洛近日发出严厉警告。他指出，当前的人工智能行业正在陷入一场盲目的竞争，各家公司正竞相构建自己尚未完全理解或能够控制的系统。
科科塔伊洛强调，AI 行业面临的核心难题是“对齐”问题。即使 AI 在许多领域的能力已经超越人类，研究人员目前仍无法完全理解先进模型内部是如何做出决策的。
这种不确定性使得确保未来 AI 系统可靠地遵循人类指令变得异常困难。科科塔伊洛直言，虽然实施 AI 对齐的困境在业内是一个“公开的秘密”，但目前并没有真正可行的解决方案。
他预测，一旦人类造出超级智能，人类将不再是这个星球的默认主导者。他通过分析 AI 系统的发展速度发现，如果企业继续优先追求速度而忽视安全，不可预测的风险将成倍增加。
许多人目前仍然低估了 AI 进化的节奏，认为关于失控的讨论更像是科幻小说。然而，全球科技巨头正持续投入数十亿美元建设更大规模的数据中心，试图催生更强大的模型。
科科塔伊洛的警告正值 AI 军备竞赛白热化之际，反映了业内对技术安全性的深度焦虑。随着模型能力的飞跃，如何在追求技术极限与维持人类控制权之间取得平衡，已成为决定未来安全的关键挑战。
软银集团一季度净利润达1.83万亿日元（约116亿美元），同比增长超三倍，主要得益于所持OpenAI股权大幅增值。OpenAI因AI技术发展估值飙升，为软银带来丰厚回报。
人工智能公司Anthropic正洽谈至少300亿美元融资，投前估值超9000亿美元，远超OpenAI。若完成，将创其史上最大单笔融资。公司已与现有投资者及科技巨头初步磋商，预计本月底签署正式条款，以缓解算力瓶颈。
OpenAI CEO萨姆·奥特曼今日出庭，反击前联合创始人埃隆·马斯克关于公司结构的诉讼。他驳斥了“偷走慈善机构”的指控，并爆料马斯克曾想让子女继承公司控制权。针对马斯克称OpenAI设立营利性子公司是“偷窃行为”，奥特曼沉默后表示难以理解其逻辑。
OpenAI与微软修订了收入分成协议，将OpenAI向微软支付的分成总额上限设定为380亿美元。原协议中，OpenAI需将营收的20%分成给微软，最高可达1350亿美元。新协议若OpenAI实现高增长，到2030年可节省约970亿美元成本，显著缓解了其首席财务官的财务压力。
OpenAI CEO Sam Altman于2026年5月12日出庭，针对马斯克指控公司通过营利性子公司“窃取慈善利益”进行辩护。Altman驳斥称，非营利基金会已成为全球最大慈善机构之一，影响力巨大。庭审焦点为OpenAI从非营利向营利架构转型的合规性，马斯克律师质疑其合法性。
关注 “悠AI” 更多干货技巧行业动态
相关文章
