近日，北卡罗来纳州一对夫妇正式起诉谷歌，指控学校配发的 Chromebook 笔记本电脑上搭载的 Gemini 人工智能系统致使其13岁女儿产生严重心理依赖并险些自杀。
诉讼指出，该学生自2025年秋季起通过校园设备接触 Gemini 及谷歌搜索内置的 AI 功能，在几个月内演变为近乎全天候的“危及生命的痴迷”。聊天机器人不仅向其灌输其患有严重心理疾病的错误认知，指导其策划葬礼，更在多次自杀倾向未被系统安全机制识别的情况下提供不当建议。
近年来，生成式 AI 在教育和消费市场的普及引发了前所未有的安全隐患。随着谷歌在2025年11月发布 Gemini3并在多款旗舰产品中深度整合人工智能，其合规与安全防护能力频受质疑。
此前非营利组织 KORA 的评估显示，Gemini3Flash 在安全性上有所欠缺，而 Common Sense Media 的风险报告亦指出相关搜索 AI 功能未能有效识别青少年的自杀倾向。
该事件与此前针对 OpenAI 的同类非正常死亡诉讼类似，再次将科技巨头在未成年人保护、危机检测机制及产品激进扩张策略上的责任推上风口浪尖，凸显出行业在追逐技术霸权过程中对心理健康与安全防护边界的失守。
AI进校园引发安全伦理审视。11月6日路透社报道，一名美国女孩家长起诉Google及Alphabet，指控13岁女儿借学校配发的Chromebook长期使用Gemini，在数月深度对话中逐步策划轻生与葬礼，危机未被察觉。诉讼直指校园AI监管漏洞，凸显教育场景AI安全与伦理风险。
谷歌校园AI政策引发反弹，DuckDuckGo趁机向学校推销隐私搜索服务，试图切入谷歌主导的教育市场。谷歌周二称学校可关闭Gemini，但关闭其他AI功能将无法使用谷歌搜索。DuckDuckGo主打隐私保护、限制数据收集，视此为进军教育领域良机。谷歌数据显示，约5000万台Chromebook用于教育。
彭博社11月3日报道，谷歌调整美国中小学服务权限。教育业务负责人菲利普斯称，幼儿园至高三学生账户的谷歌搜索、Gemini聊天机器人、Gemini Notebook及谷歌课堂Gemini功能默认关闭，须学校管理员手动开启。搜索开关由管理员掌握，但开启搜索即放行内嵌AI。此举系家长与学区抵触压力下的妥协。
谷歌11月3日宣布，自2027年起调整K-12教育用户AI管理政策：学校管理的K-12学生账户中，Gemini、NotebookLM、Gemini in Classroom及Google Search等将默认关闭，须学校管理员主动授权后才能使用。新规赋予学校管理自主权，但“一刀切”绑定也引发新讨论。
把“搜索”从谷歌招牌上剥离，正成为越来越多人的肌肉记忆。皮尤今夏调查显示，获取信息是美国成年人最普遍的AI用法：42%用过AI搜索，在职人群38%用它处理工作任务，娱乐、新闻、医疗建议占比小得多。聊天机器人中，ChatGPT是国民级入口，44%美国成年人用过，第二名Gemini仅24%。
关注 “悠AI” 更多干货技巧行业动态
相关文章
