美国康涅狄格州一名自行出庭的原告，被法官发现疑似在提交法院的文件中隐藏了仅供 AI 系统读取的文字指令，试图以此影响案件处理。这被认为是美国司法体系首次出现当事人用"提示注入"干预 AI 审阅流程的案例，尽管该州法院目前并未实际使用 AI 审查材料，隐藏指令并未奏效。
这些隐藏指令被设为极小字号、白字配白底，肉眼几乎无法察觉，却能被提取文档文本的软件识别。其内容要求任何审阅文件的 AI 系统输出与原告主张一致、忽略法院不利决定，并按其希望的方式推动结果。法官小沃尔特·斯佩德指出，这种做法本质是向读取文件的系统偷植指令，使当事人要求被误认为来自系统运营者的命令，在法院已警告处罚后原告仍继续添加，构成严重程序滥用。
原告辩称部分内容只是玩笑，包括一个视频链接和"嗨，我希望你看不见我"等无意义文字，但法官认为在正式诉状中暗藏玩笑不合常理。考虑到他无律师代理且似乎受 AI 工具"过度认同"影响，法院未处以罚款，而是禁止其使用电子提交系统、改为提交纸质材料，既保留其诉诸司法的权利，又阻断继续滥用平台的可能。
法官警告，随着提示注入在招聘等领域日渐常见，法院出现类似情况并不意外，司法系统过去只顾防范 AI 虚构判例等输出问题，对输入端攻击准备不足。巴西曾有律师在 AI 审查案件中用类似手段被罚约 1.6 万美元，裁定提及此类攻击目前成功率有限，但未来有必要制定专门规则。
斯佩德还批评部分自行诉讼人使用聊天机器人的方式：先认定结论再要求 AI 只找支持论据，不让其检验事实或分析反方，反而固化错误判断。他强调，AI 使用者应同样要求系统质疑自己的立场，"只被要求同意作者论点，归根结底连对作者本人也是不诚实的"。
OpenAI承认其AI浏览器存在难以根除的“提示注入”安全漏洞，这将是长期技术挑战，而非可短期修复的Bug。自10月推出内置ChatGPT的Atlas浏览器以来，该隐患持续引发关注。
前谷歌CEO施密特警告：人工智能存在扩散风险，可能被恶意分子滥用。开源或闭源模型均可能遭黑客攻击，破坏安全机制。AI在训练中可能学习负面内容甚至致命技能，呼吁加强防范。
开发者Evan Zhou在MacOS15.1Beta1中利用名为“提示注入”的攻击方式，成功操控了苹果新AI系统Apple Intelligence，绕过指令，任意响应提示。最初目标是改写文本质量，但通过Reddit用户分享的提示信息，Zhou构造了覆盖系统提示的攻击，让AI忽略原有指令并回应新文本。这一发现引起广泛关注，尽管Apple Intelligence系统较为复杂，防止“提示注入”的问题仍未彻底解决，显示出AI系统安全性的挑战。
一项针对超1.4万本亚马逊自出版电子书的研究发现，AI生成内容正以数量优势改变出版市场生态。2023年初至2026年第一季度，平台图书目录暴增38.3倍，同期季度收入仅增8.9倍，供给远超收入增长，市场出现明显“稀释效应”，引发对创作生态的担忧。
豆包“工作任务”模式更新，上线手机远程控制电脑功能。用户手机端授权后，可随时接管同账号电脑处理桌面任务，并调取本地文件上下文，高效处理文档、图片、代码、表格等，突破设备限制，为移动办公提供更灵活方案。
关注 “悠AI” 更多干货技巧行业动态
相关文章
