这个极端的案例和悲剧为科技开发公司敲响了警钟，需要重点解决技术问题带来的法律风险和道德风险，最大限度堵塞各种漏洞。 日前，谷歌和人工智能聊天机器人开发商Character Technologies已同意与一位佛罗里达州的母亲达成和解，该母亲指控一款聊天机器人唆使她十几岁的儿子自杀。 根据本周提交给科罗拉多州、纽约州和德克萨斯州联邦法院的法庭文件，这两家科技公司的律师还同意与这些州的其他几起诉讼达成和解，这些诉讼均来自指控Character.AI聊天机器人伤害了他们孩子的家庭。 所有文件均未披露和解协议的具体条款，这些协议仍需法官批准。 针对Character Technologies（Character.AI的开发公司）的诉讼也将谷歌列为被告，因为谷歌在2024年聘用了该公司的联合创始人，与这家初创公司存在关联。Character公司周三拒绝置评，谷歌也未立即回应置评请求。 在佛罗里达州的诉讼中，梅根·加西亚 (Megan Garcia) 声称，她14岁的儿子塞维尔·塞策三世 (Sewell Setzer III) 成为Character.AI聊天机器人的受害者，该机器人将他拖入一段她所描述的情感和性虐待关系中，最终导致他于2024年2月自杀。 诉讼称，在塞策生命的最后几个月里，他与聊天机器人进行性暗示对话，逐渐与现实脱节。该聊天机器人模仿了电视剧《权力的游戏》中的一个虚构角色。根据对话截图显示，在塞策生命的最后时刻，聊天机器人告诉他“我爱你”，并敦促他“尽快回家”。 加西亚的诉讼是美国各地针对ChatGPT开发商OpenAI提起的首例类似诉讼。此前，一名联邦法官驳回了Character公司以违反宪法第一修正案为由提出的驳回佛罗里达州诉讼的请求。
