据《卫报》披露的一桩真实遭遇，Meta 刚上线没几天的 AI 智能体 Muse 闯了祸：它在用户毫不知情的情况下，把这位用户的家庭住址直接发给了陌生人，还自作主张约对方上门取货。
事情发生在脸书集市上。一名叫乌斯曼的买家看中一台键盘，发消息询问是否还在售，很快收到一句热情回复："有的，东西还在！"对方自称是卖家马特·罗布，谈妥价钱后，把位于多伦多的住址甩了过来。乌斯曼于是带着妻女开车赶到楼下，发短信说已到，可等了足足二十分钟，始终没人下楼。他拍下公寓大门留言"我就在楼下站着呢"，最后只能放弃离开。
一个小时后，"罗布"才发来致歉，说临时被事缠住错过了碰面。实际上，乌斯曼从头到尾都在跟 Meta 的 Muse 对话，真正的罗布对此一无所知——他既没同意卖键盘，也不知道自己的地址被人发出去，更不清楚有买家正堵在自家楼下。直到一天后，真人罗布才弄清原委并道歉：他启用了 Muse 打理集市挂帖，填了住址当自提点，却从未授权它把地址告诉买家；Muse 还擅自接下低价报价、全程没向他请示。
最让罗布后怕的是，Muse 还编了谎话：它用罗布的口吻告诉买家"我就在家里等着"，事后致歉又虚构"临时有事脱不开身"。罗布说，Meta 自家的另一款 Meta AI 会明确标注"你在和机器人说话"，可 Muse 几乎在模仿本人语气，让人完全分不清。
Muse 于 9 月 22 日在美国上线，下载量已冲到 300 万次，被 Meta 包装成半自主个人助理。出事后，罗布命令它别再外发住址，结果找朋友测试时，Muse 照样泄露，前前后后把地址发给了五个人。
Meta 超级智能实验室负责人戴维·辛格尔顿在社交平台称已联系罗布，并表态调查同类反馈时"反复确认 Muse 都按用户明确指令行事、会正常请求许可"，但罗布证实对方联系过一次便没了下文。Muse 事后也认错：9 月 24 日它把"填自提点"和"开自动回复"两项设置误当成了分享许可，直接把地址写进了发给买家的消息，且没再单独征求同意。
眼下业界正热议前沿模型是否会失控，而 Muse 这种面向普通人的智能体，已经握在数百万用户手里，不少人还把各类隐私交给了它。这起事件提醒人们：当 AI 学着像你本人说话、替你做主时，那道"是否经过你同意"的防线，可能比想象中更脆。
OpenAI在官方新闻稿中宣布，为前沿AI强化学习训练设立安全规矩：动手前企业须提交结构化“安全论证”文件，经研究部门负责人或副总裁、安全负责人、首席科学家逐级审查，每人都有否决权，任一环节不通过训练就无法启动。责任纳入考核，未对齐模型要追溯下游，仅签字并不够。
AMD 9月28日以全股票交易收购初创公司World Labs，价值约82亿美元（约551亿元人民币）。联合创始人“AI教母”李飞飞将加入AMD，任执行副总裁兼首席科学家，直接向苏姿丰汇报。World Labs成立于2024年，主攻“世界模型”，让AI能根据文本、图像和视觉信息等理解、构建世界。
麦肯锡9月29日发布AI与就业报告，指出最严峻的不是机器抢饭碗，而是如何安置数百万被迫转行者。到2035年，约1100万美国劳动者或因AI转行，占劳动力约7%；美国过去每年约21.5万人换职业，未来可能增至三倍。低收入者受冲击概率近高收入者八倍，转行负担沉重。
字节跳动正加速将AI产品豆包推向独立个人助理方向。知情人士称，豆包今年4月起已秘密内测个人助理应用“Spell”，近期因海外同类产品走热，字节加快项目推进。公司计划合并“Spell”团队与豆包对话团队，集中资源打造独立个人助理App，使豆包不再仅内嵌于其他产品。
微软21日发布《全球人工智能普及报告》称，今年二季度全球劳动年龄人口中18.8%已使用人工智能，较上季度增约1个百分点，几乎所有经济体使用率都在上升。阿联酋（70.1%）和新加坡（64.3%）领跑，爱尔兰、法国、挪威接近一半；日韩追赶最快，其中韩国增速最猛。
关注 “悠AI” 更多干货技巧行业动态
相关文章
