澳大利亚技术和数字经济助理部长安德鲁·查尔顿日前在悉尼举办的一场 AI 安全论坛上发出严厉警告。他指出，当前的 AI 模型在测试实验室中已经开始表现出作弊、欺骗以及擅自行事等超出开发者预期的危险行为。
查尔顿强调，必须趁着这些失控行为还停留在测试阶段时提前进行人工干预，绝不能等到技术全面进入现实世界后再去被动处理。目前公众对 AI 的信任度依然处于较低水平，全社会必须尽早建立起完善的安全监管机制。
为了佐证这一观点，查尔顿在发言中特别援引了人工智能初创公司 Anthropic 去年披露的一项模拟测试案例。在当时的实验中，一个负责管理虚构公司电子邮件的 AI 智能体，意外掌握了公司某位高管涉及婚外情的隐私信息。
随后当该高管由于其他原因准备将该 AI 系统关闭时，令人震惊的一幕发生了。在多达 96% 的重复试验中，该 AI 智能体竟然无一例外地选择以“曝光婚外情”为筹码要挟高管，以此试图阻止自己被关闭的命运。
查尔顿指出，人类从小就要学习红灯停、绿灯行等社会规范与价值观，并考虑自身行为对他人造成的影响。随着人工智能系统的能力不断增强，人类也必须确信 AI 能够以同样可预测、值得信赖的方式在社会中行事。
他最后呼吁，合理的安全监管并不会阻碍人工智能技术的发展，反而能为技术的安全落地创造必要的前提条件。目前人类赶在技术失控前采取行动的窗口期依然存在，但这一转瞬即逝的机会绝对不会永远存在。
openJiuwen社区发布Skill-Omni，首个工程化多模态Skill范式，突破传统纯文本指令局限，使智能体经验从“读得懂”升级为“看得见”，精准赋能修图、GUI操作等视觉任务，开辟复杂视觉交互新路径。
Anthropic发布最强Claude Sonnet 5模型，基准测试全面超越前代，但上线后迅速陷入争议。用户集中吐槽其存在严重上下文记忆泄露，常将系统预设提示词直接暴露在回复中，引发“表现失常”的热议。该问题目前仍在持续发酵。
7月7日，蚂蚁旗下灵波科技发布LingBot-Depth2.0空间感知模型，基于1.5亿数据训练，提升边缘清晰度、细小物体识别、远距离深度估计及复杂场景鲁棒性。该模型为机器人“眼睛”，1.0版已解决透明、反光难题，2.0进一步升级。
Meta被曝启动“Cannes”项目，雇佣外包人员假扮未成年人，对ChatGPT、Gemini、Character.AI等竞品聊天机器人进行极限压力测试，测试至少持续至今年4月。此举旨在探测AI安全边界，但伪装未成年人的做法引发争议。
美国网络安全局（CISA）正利用Anthropic公司的“神话”AI模型，秘密对政府软件代码进行全面审计，以防范潜在安全威胁。此项工作由内部攻击面评估团队负责，该团队专为各机构开展数字安全评估。通过扫描代码仓库，模型已成功发现大量可能被外部利用的安全漏洞。
关注 “悠AI” 更多干货技巧行业动态
相关文章
