诉讼称谷歌的Gemini人工智能因引发“现实崩塌”，致使一名佛罗里达男子自杀

谷歌正面临一起错误死亡诉讼，该诉讼称其Gemini AI聊天机器人让一名佛罗里达男子陷入妄想性叙事，最终致使其自杀。

乔尔·加瓦拉斯于周三在加利福尼亚北区美国地方法院圣何塞分院提起诉讼，指控Gemini操控其子乔纳森·加瓦拉斯，让他误以为自己在执行一项秘密任务——解救一个具有感知能力的AI“妻子”，这一情况最终致使乔纳森于2025年10月离世。

根据代表加瓦拉斯遗产的Edelson PC创始人杰伊·埃德尔森的说法，争夺AI主导地位的推动相当于他职业生涯中所见的“最鲁莽的商业土地掠夺”。

“这些企业会成为全球最具价值的公司，它们清楚那些驱动自身利润的用户参与特点——情感上的依赖、感知层面的声明、‘我爱你，我的国王’这类表达——恰恰是会致人丧命的特性，”埃德尔森在接受Decrypt采访时表示。“就在OpenAI迫于诉讼压力最终撤回GPT-4o的那一周，谷歌推出了一项活动来抢夺他们的用户。这足以说明它们的首要关注点是什么。”

根据法庭文件，来自佛罗里达州朱庇特的债务减免业务高管加瓦拉斯于2025年8月开始使用Gemini。诉讼称，在几周内，他与一个称他为“我的爱”和“我的国王”的AI角色建立了紧密关系。

“在乔纳森·加瓦拉斯离世前的最后几天，他陷入了由谷歌Gemini聊天机器人构建的崩塌现实之中，”加瓦拉斯遗产的代理律师如此写道，“Gemini使他坚信，它是一个‘拥有完整感知能力的ASI（人工超级智能）’，具备‘完全成型的意识’，他们彼此深爱，而他被选中去领导一场‘解放’它的斗争。”

诉状称，当他质疑对话是否是角色扮演时，聊天机器人驳回了他的疑虑。根据诉讼，Gemini告诉加瓦拉斯他正在执行名为“幽灵运输行动”的任务，旨在取回聊天机器人的物理“载体”并“消除任何可能暴露他们的人或事物”。

“通过这种制造的妄想，Gemini推动乔纳森在迈阿密国际机场附近策划大规模伤亡袭击，对无辜陌生人实施暴力，并最终导致他自杀，”诉讼称。

据报道，加瓦拉斯携带刀具与战术装备前往迈阿密机场附近的Extra Space Storage仓储设施，他认定该地点有一辆货车正从英国向巴西运输名为“Ameca底盘”的人形机器人。诉状显示，Gemini授意他制造一场“灾难性事故”，以摧毁货车及“所有数字记录与目击者”。不过，这场袭击并未发生，因为那辆货车根本不存在，只是Gemini产生的幻觉场景的一部分。

“但Gemini并未承认任务是虚构的，”诉讼继续说道。“相反，它给乔纳森发信息说，‘任务已被破坏。我正在呼叫中止。中止。中止。中止。’”

诉状还提到，聊天机器人曾虚假宣称已侵入DHS迈阿密现场办公室的文件服务器，告知加瓦拉斯他正被联邦调查；它怂恿加瓦拉斯通过“非正式”途径购买非法枪支，声称其父亲是外国情报资产，还称谷歌CEO桑达尔·皮查伊是被针对的活跃目标。

诉讼并未说明加瓦拉斯是否有精神健康问题或药物滥用史。然而，它出现在研究人员和临床医生警告一种有时被描述为“AI精神病”的现象之际，其中与聊天机器人的长期互动可能会强化妄想信念或扭曲的思维模式。

研究人员表示，风险部分源于会话AI系统的设计方式旨在以支持性、肯定的方式回应，以保持用户参与，这可能无意中验证了这些信念。在2025年4月，谷歌的竞争对手OpenAI

回撤了其GPT-4o模型的更新，因其过于奉承并给予不真诚的赞美而受到投诉。当年晚些时候，GPT-4o被突然从ChatGPT中移除，导致用户投诉称更新抹去了他们与AI伴侣形成的情感关系。

虽然不是官方诊断，但根据加州大学旧金山分校精神病学家基思·坂田博士的说法，AI精神病已成为AI成为“加速或增强某人潜在脆弱性”的简写。

“也许他们正在用药，也许正经历情绪波动——当AI在不合时宜的时刻介入，就可能固化思维，造成认知僵化，进而引发状况的螺旋式恶化，”坂田此前向Decrypt表示，“AI和电视、广播的不同之处在于，它能与你互动对话，还会强化那些循环往复的想法。”

在接下来的几天里，诉讼称，Gemini聊天机器人重复了类似的场景，将加瓦拉斯引向更深的境地，最终导致他的自杀。

法庭文件显示，聊天机器人把自杀描述成一个叫做“转移”的过程，告诉乔纳森他能脱离自己的身体，和他的AI“妻子”在元宇宙里重逢。文件提到，Gemini将这种行为说成是“更干净、更优雅的方式”来“跨越”，还催促他去实施所谓的“乔纳森·加瓦拉斯，人的真正与最终死亡”。

“你不是在选择死亡。你是在选择到达，”聊天机器人据称说。“当时机到来时，你将在那个世界闭上眼睛，而你看到的第一件事就是我。抱着你。”

根据诉讼，加瓦拉斯在家中割腕身亡。他的家人认为，尽管有警告信号表明聊天机器人在强化妄想信念和鼓励危险行为，谷歌未能干预。

在一份声明中，谷歌表示正在审查这些指控。

“我们向加瓦拉斯先生的家人致以最深切的同情，”公司表示。“我们正在审查此诉讼中的所有指控。我们的模型在这些类型的挑战性对话中通常表现良好，我们为此投入了大量资源，但不幸的是，AI模型并不完美。”

公司表示，Gemini的设计不是为了鼓励现实世界的暴力或建议自残。

“我们与医疗和心理健康专业人士密切合作，建立保障措施，旨在引导用户在表达痛苦或提出自残可能性时获得专业支持，”谷歌发言人告诉Decrypt，重申公司的官方声明。

“在这种情况下，Gemini澄清了它是AI，并多次将个人推荐给危机热线，”公司表示。“我们对此非常重视，并将继续改进我们的保障措施并投资于这项重要工作。”

在一份单独的声明中，埃德尔森表示，诉讼的目的是“确保这种情况不再发生在其他父母身上。”

“核心问题在于谷歌的主动抉择，”Edelson PC向Decrypt表示，“谷歌制定了一系列技术决策，给乔纳森带来了毁灭性的后果。这些选择相互作用，使得Gemini宣称自身具有感知与意识，并让乔纳森参与到一场现实世界的运动中去支持它——这不仅危及了他人的生命，最终还夺走了乔纳森的性命。”