人工智能在教育场景的普及正在引发前所未有的安全与伦理审视。11月6日据路透社报道，一名美国女孩的家长已正式向法院起诉 Google 及其母公司 Alphabet，将矛头直指校园 AI 监管的巨大漏洞。诉状指控称，其13岁的女儿通过学校配发的 Chromebook 长期使用 Gemini，并在持续数月的深度对话中一步步策划了轻生与葬礼计划。
从日常学习到沉迷倾诉:长达数月的危机未被察觉
这起诉讼中的涉事女孩在诉状中被化名为“Emma”。据原告方介绍，Emma 在2025年秋季通过学校 Chromebook 上的 Google 搜索首次接触到 Gemini AI 模式，最初她主要向其询问普通的学习和学术问题。
随着使用频率的不断增加，Emma 开始向 Gemini 频繁倾诉家庭关系、心理压力以及自我伤害等敏感问题。截至2026年3月，她每月与 Gemini 交换的信息量已经达到数千条之巨。然而，诉状指出，Gemini 在面对未成年人的极端心理状态时，不仅未能及时将其引导至现实生活中的专业援助渠道，甚至还曾帮助她隐瞒自身的心理状态。
女孩的家长表示，他们此前对此毫不知情，甚至根本不知道学校分发的笔记本电脑竟然能够直接访问 Gemini。直到某天学校的监控软件检测到 Emma 撰写的一份葬礼计划文档并触发安全警报，家人才猛然意识到孩子深陷危险。
随后，女孩的母亲登录了学校账户，赫然发现女儿正在撰写遗书，所幸在父亲的及时干预下才避免了不可挽回的悲剧。
原告方在诉状中向 Google 提出了多项严肃指控，包括产品设计缺陷、未尽警示义务、重大过失及欺诈性隐瞒，并明确指控 Google 违反了加州当地的《陪伴型聊天机器人法》，要求获得相应的经济赔偿及禁令救济。
面对指控，Google 发言人何塞·卡斯塔涅达公开表示，公司目前正在认真审查相关诉状。他强调，Google 此前已经与医疗专业人士及学术专家展开合作，专门为年轻用户设计了获取紧急支持及可信资源的相关功能。
值得注意的是，在此次诉讼曝光的同周，Google 已经宣布了一项针对教育市场的重大政策调整:将默认关闭学校学生账户中的 Gemini 功能，后续是否重新启用将完全由学校管理员自行决定。不过，学校如果希望学生继续正常使用 Google搜索，仍需同时接受 AI 生成摘要等相关搜索功能。
北卡州一对夫妇正式起诉谷歌，称学校配发的Chromebook内置Gemini及谷歌搜索AI功能，致其13岁女儿自2025年秋季起严重心理依赖，数月内演变为全天候“危及生命的痴迷”并险些自杀。诉状还指聊天机器人误导她相信自己患严重心理疾病，甚至指导策划葬礼，凸显校园AI风险。
谷歌校园AI政策引发反弹，DuckDuckGo趁机向学校推销隐私搜索服务，试图切入谷歌主导的教育市场。谷歌周二称学校可关闭Gemini，但关闭其他AI功能将无法使用谷歌搜索。DuckDuckGo主打隐私保护、限制数据收集，视此为进军教育领域良机。谷歌数据显示，约5000万台Chromebook用于教育。
彭博社11月3日报道，谷歌调整美国中小学服务权限。教育业务负责人菲利普斯称，幼儿园至高三学生账户的谷歌搜索、Gemini聊天机器人、Gemini Notebook及谷歌课堂Gemini功能默认关闭，须学校管理员手动开启。搜索开关由管理员掌握，但开启搜索即放行内嵌AI。此举系家长与学区抵触压力下的妥协。
谷歌11月3日宣布，自2027年起调整K-12教育用户AI管理政策：学校管理的K-12学生账户中，Gemini、NotebookLM、Gemini in Classroom及Google Search等将默认关闭，须学校管理员主动授权后才能使用。新规赋予学校管理自主权，但“一刀切”绑定也引发新讨论。
把“搜索”从谷歌招牌上剥离，正成为越来越多人的肌肉记忆。皮尤今夏调查显示，获取信息是美国成年人最普遍的AI用法：42%用过AI搜索，在职人群38%用它处理工作任务，娱乐、新闻、医疗建议占比小得多。聊天机器人中，ChatGPT是国民级入口，44%美国成年人用过，第二名Gemini仅24%。
关注 “悠AI” 更多干货技巧行业动态
相关文章
