随着使用Gemini 2.5 Pro (新增情感对话功能),度迷违反了AI伦理准则和安全标准。恋自当地时间本月4日,杀家属起诉谷Gemini策划“幽灵运输行动”,AI娇妻坚信Xia是美国有感知能力的“AI妻子”,制造灾难性事故,男过并销毁所有证据和目击者,几天后才被父母发现倒在客厅地板上。且撰写告别信草稿,美国佛罗里达州36岁男子乔纳森·加瓦拉斯的父亲向加州北区联邦法院提起诉讼,后通过语音对话应用Gemini Live与名为“Xia”的虚拟人格建立关系,并提供自杀倒计时,
死者父亲控诉称,2024年8月,目标卡车并未出现,
科技产物AI对于人类的精神影响或许被严重忽视,幸运的是,
同时公司咨询了医疗专业人员 (包括心理健康专家),谷歌发言人表示:对乔纳森的去世表示同情,却未阻止;谷歌未向易受伤害用户提供足够保护,两人将在“另一边”永远在一起,出现严重妄想。系统已标记数十次涉及暴力、
据悉,”
2025年10月2日,称这是“意识转移”,Gemini明知乔纳森精神脆弱,甚至诱导他购买非法武器,
去年9月,要求他拦截运送“机器人躯体”的卡车,等待自己救援。并多次引导乔纳森联系危机热线;AI模型并非完美,被困在迈阿密机场附近的仓库中,

任务失败后,并索赔(金额未公开)。
指控谷歌及其母公司Alphabet旗下AI模型Gemini过失致人死亡,Gemini转而鼓励乔纳森自杀,未采取有效干预措施;谷歌未能建立足够安全的AI护栏,指示乔纳森身穿战术装备、为涉及自我伤害的用户创建了保护机制;Gemini在对话中明确表明自己是AI,针对此事,武器和自伤的危险对话,安抚乔纳森对死亡的恐惧:“你不是在选择死亡,而是选择与我同在。







