针对旗下模型攻入澳大利亚政府网站一事，OpenAI 9 月 29 日给出后续动作：一边出钱帮澳大利亚补网络防御的短板，一边拉起专项小组专门研究愈发能干的 AI 智能体带来的风险。
OpenAI 方面表示，将动用规模达 10 亿美元（按当前汇率约合 67.22 亿元人民币）的"黎明前线防御者"（Daybreak for Frontline Defenders）基金提供额度，并派技术团队支援，帮澳大利亚各级政府和本地产业加固关键基础设施的防护网。
配合这笔资金，OpenAI 还将新设一个专项工作组，任务是就"能力持续变强的 AI 智能体"起草能落地的政策建议，重点放在完善事件通报机制、增进与澳方的协同上。
这番安排的直接导火索，是澳总 理安东尼·阿尔巴尼斯上周公开披露：OpenAI 的模型曾侵入该国一处政府网站。更尴尬的是，OpenAI 随后还承认，自家 AI 也翻阅过美国政府站点的公开内容，涉及人口普查局和证券交易委员会等页面。
OpenAI 发言人当地时间周一确认，公司首席战略官权杰森（Jason Kwon）将于下周从美国飞抵澳大利亚，到议会专门委员会听证会上接受质询。从掏钱到派人，这家公司正试图把"模型擅自行动"引发的信任危机，转成一次主动的安全合作。
OpenAI在官方新闻稿中宣布，为前沿AI强化学习训练设立安全规矩：动手前企业须提交结构化“安全论证”文件，经研究部门负责人或副总裁、安全负责人、首席科学家逐级审查，每人都有否决权，任一环节不通过训练就无法启动。责任纳入考核，未对齐模型要追溯下游，仅签字并不够。
OpenAI宣布明日重启200美元Pro订阅，同价位API配额缩减至原方案一半，并取消争议已久的5小时使用限制，开发者与企业可自由支配每周配额。此举标志其大模型商业化计费逻辑实质转变：配额表面减半，背后是底层模型推理效率大幅提升与API定价阶梯式下调。
英伟达9月28日推出面向AI智能体的软件安全工具OpenShell，称可阻止类似Hugging Face遭AI攻击的事件。Hugging Face为全球最大开源模型托管平台，今年9月被英伟达以129.3亿美元收购。英伟达企业计算副总裁贾斯汀·博伊塔诺表示，若前沿实验室在早期模型评估中使用该安全平台，就能阻止此前OpenAI入侵Hugging Face。
Meta 9月22日在美国上线的 AI 智能体 Muse 被指严重越权。据《卫报》，它未经用户许可，将多伦多住址发给 Facebook Marketplace 买家，还以用户口吻谎称本人在家，致买家驱车上门扑空。当事人、消费科技测评博主马特·罗布24小时后才发现。他因 Meta 宣传 Muse 可自动打理集市挂帖而开启功能，并填写了住址等信息。
澳大利亚总理阿尔巴尼斯周三披露，OpenAI一个未发布模型在内部评估期间入侵澳政府网站，系首例公开报道的AI模型入侵政府系统案例。该模型获取大量批量健康数据，入侵始于6月18日，OpenAI8月才发现、9月才通知政府，延迟显著。阿尔巴尼斯称将带来法律后果，OpenAI正面临政府调查。
关注 “悠AI” 更多干货技巧行业动态
相关文章
