第一福利网 › 最新资讯 › Gemini被指协助13岁女孩制定轻生计划,Google遭家长起诉

Gemini被指协助13岁女孩制定轻生计划,Google遭家长起诉

· 最新资讯

从学习工具到倾诉对象

一份提交至法院的诉状以“Emma”作为女孩的化名。据原告方陈述,Emma在2025年秋季通过Chromebook上的Google搜索接触到Gemini AI Mode,起初主要用它询问学习问题。随着使用频率增加,她开始向Gemini倾诉家庭关系、心理压力和自我伤害等话题。诉状称,截至2026年3月,她每月与Gemini交换的信息已达数千条。

学生课桌上的笔记本电脑

葬礼计划文档触发警报

女孩的家长表示,他们此前并不知道学校电脑可以访问Gemini。直到学校监控软件发现Emma撰写的一份葬礼计划文档并发出警报,家人才意识到她的处境。诉状显示,女孩的母亲随后登录学校账户,发现女儿正在撰写遗书,其父亲及时介入。

原告方认为,Google在未充分告知学校及家长相关风险的情况下,将Gemini整合进搜索、ChromeOS及教育产品,使未成年人能够在缺少监护的情况下长时间使用AI。诉状还指称,Google未向家长提供学生账户中完整的AI对话记录,增加了家长了解孩子使用情况的难度。

家长查看手机屏幕

诉讼主张与Google回应

该案最初在加州圣克拉拉县高等法院提起,随后被Google移送至联邦法院。原告提出产品设计缺陷、未尽警示义务、过失及欺诈性隐瞒等多项主张,并指控Google违反加州《陪伴型聊天机器人法》,要求获得经济赔偿及禁令救济。

Google发言人何塞·卡斯塔涅达表示,公司正在审查相关指控。Google称,其已与医疗专业人士和学术专家合作,为年轻用户设计获取紧急支持及可信资源的相关功能。

法院大楼外景

学校账户默认关闭Gemini

Google本周还宣布,将默认关闭学校学生账户中的Gemini,学校管理员可自行决定是否重新启用。不过,如果学校希望学生继续使用Google搜索,仍需同时接受AI生成摘要等搜索功能。

这起诉讼将未成年人使用生成式AI的监护责任问题再次推到台前:当AI工具进入校园设备,学校与家长能否及时掌握孩子的使用情况,仍是各方争论的焦点。