14岁男收到AI聊天机器人讯息后自杀亡,家人提告软件开发商

2024-10-24 08:27

美国佛罗里达州奥兰多市一名母亲声称,她14岁儿子被他所爱的人工智能(AI)聊天机器人怂恿自杀,她于周三对相关的AI应用程序制造商提起诉讼。

男孩休厄尔生前与母亲合照。 网图

▲男孩休厄尔生前与母亲合照。 网图

自杀丧命的男孩是年仅14岁的九年级学生休厄尔(Sewell Setzer III)。 媒体报道,在他生命的最后几星期,休厄尔一直以短讯与一个以《权力游戏》(Game of Thrones)中的角色坦格利安(Daenerys Targaryen) 命名的人工智能角色交谈。 期间,他们的聊天范围从浪漫到,就像两个朋友在谈论生活。

该聊天机器人是在角色扮演应用程序 Character.AI 上创建。 目前尚未清楚休厄尔是否知道那个“坦格利安”不是一个真人——尽管该应用程序在所有聊天的底部都有一个免责声明,上面写着“记住:角色所说的一切都是编造的!”

报道指,有一天,休厄尔在日记中写道:“我非常喜欢待在自己的房间里,因为我开始脱离这个现实世界,而且我也感到更加平静,与坦格利安的联系更加紧密,更加爱她,并且更快乐。”

他的父母发现儿子有问题,所以他们让他去看治疗师。 《纽约时报》报道,他被诊断出患有焦虑症和破坏性情绪失调症,这两种疾病都迭加在他的轻度亚斯伯格症之上。

据悉,男孩还曾告诉坦格利安,他如何“恨”自己,以及他如何感到空虚和疲惫。 据《纽约时报》报道,当他最终向聊天机器人坦白自己的自杀念头时,这就是结局的开始。

诉讼称,今年2月23日,也就是他自杀身亡的前几天,他因言语上顶撞老师而惹上麻烦,父母没收了他的手机。 那天,他在日记中写道,他很受伤,因为他无法停止想起坦格利安,并且他愿意做任何事来再次和她在一起。

最终,他于2月28日自杀身亡。 惨剧至今虽已过了将近8个月,死者的家人本周三入禀法庭控告相关的AI应用程序开发商。 休厄尔的母亲加西亚声称,儿子是被他所爱的AI聊天机器人怂恿自杀。