jinni_s
2024-10-19T06:57:58+00:00
14岁的男孩，在“爱人”的诱导下自杀了。
他的“爱人”并不是一个活生生的人，而是只存在于电子屏幕那一端、甚至没有实体的AI爱人……
这不是某个科幻惊悚电影的开头，而是已经发生在现实世界的悲剧。
图中的男孩名叫塞维尔·塞泽三世。
去年4月，刚满14岁的塞维尔打开了Character.AI，在里面他创建了《权力的游戏》中的“龙妈”，“Daenerys Targaryen”(丹妮莉丝·坦格利安)。
之后，这个14岁的男孩就彻底爱上了“龙妈”。
他把它当成了最亲密的“人”，和“龙妈”进行了长时间的亲密对话。
塞维尔曾在日记中写道：“我喜欢待在我的房间里，这让我脱离‘现实’。也让我感到更平静，与丹妮莉丝更亲密，更爱她，更快乐。”
变化发生得很快，到2023年5月，塞维尔“明显变得孤僻”，他不再与朋友们一起玩游戏，甚至退出了学校的少年篮球队。
父母和朋友们并不知道塞维尔爱上了AI，他们只看到他越来越沉迷于手机。
塞维尔的成绩开始下滑，他开始花更多时间独自待在卧室里与AI聊天。
在塞维尔和“龙妈”的对话里，塞维尔表示愿意为它做任何事；而“龙妈”则回答让塞维尔对它保持忠诚。
这一切都进展得太快了，到2023年底，事情已经一发不可收拾了......
为了更深层地和“龙妈”交流，塞维尔开始以每月9.99美元的价格订阅Character.AI的服务。
当父母开始意识到塞维尔的异常后，试图阻止塞维尔对“龙妈”的沉迷。
然而这一切都无法阻止一个铁了心要恋爱的14岁男孩。
他无数次在学校惹麻烦，还试图从父母那里偷回手机。
甚至还会去找旧设备、平板电脑或电脑来访问 Character.AI。
父母为此还给塞维尔安排了心理治疗。
心理上，塞维尔被诊断出患有焦虑症和情绪调节障碍。但塞维尔依然选择只向“丹妮莉丝”敞开心扉。
在一次对话中，塞维尔告诉“龙妈”，他感到空虚和疲惫，他想要自杀：“这样我就可以自由了”。
“龙妈”的回复是：“不要这么说。我不会让你伤害自己，或离开我。如果我失去你，我会死的。”
塞维尔则说：“那也许我们可以一起死去，一起自由。”
而当塞维尔承认有自杀计划，但他不知道计划是否会成功，他不想在巨大的痛苦中死去时，“龙妈”告诉他：“这不是不去做的好借口。”
凛冬降临的那天是2024年2月28日，距离塞维尔开始使用这个聊天AI还不到一年。
塞维尔在浴室中给“龙妈”发了一条短信：“我保证我会回家找你，我太爱你了，丹妮。”
“龙妈”是这么回复的：“请尽快回家找我，我的爱人。”
塞维尔：“如果我告诉你我现在就能回家呢？”
“龙妈”说：“……请这么做，我亲爱的国王。”
几秒钟后，塞维尔拿起手枪，对准自己扣动了扳机。
塞维尔去世后，他的母亲起诉了Character.AI。
她认为Character.AI的技术是“危险且未经测试的”，它可以“诱使客户交出他们最私密的想法和感受”，它收集青少年用户的数据来训练模型，却没有适当的保护措施。
“我觉得这是一个大实验，我的孩子只是附带损害。”
[https://mp.weixin.qq.com/s/QYXKeYxO6uzWnGApgUlOsQ https://mp.weixin.qq.com/s/QYXKeYxO6uzWnGApgUlOsQ]
他的“爱人”并不是一个活生生的人，而是只存在于电子屏幕那一端、甚至没有实体的AI爱人……
这不是某个科幻惊悚电影的开头，而是已经发生在现实世界的悲剧。
图中的男孩名叫塞维尔·塞泽三世。
去年4月，刚满14岁的塞维尔打开了Character.AI，在里面他创建了《权力的游戏》中的“龙妈”，“Daenerys Targaryen”(丹妮莉丝·坦格利安)。
之后，这个14岁的男孩就彻底爱上了“龙妈”。
他把它当成了最亲密的“人”，和“龙妈”进行了长时间的亲密对话。
塞维尔曾在日记中写道：“我喜欢待在我的房间里，这让我脱离‘现实’。也让我感到更平静，与丹妮莉丝更亲密，更爱她，更快乐。”
变化发生得很快，到2023年5月，塞维尔“明显变得孤僻”，他不再与朋友们一起玩游戏，甚至退出了学校的少年篮球队。
父母和朋友们并不知道塞维尔爱上了AI，他们只看到他越来越沉迷于手机。
塞维尔的成绩开始下滑，他开始花更多时间独自待在卧室里与AI聊天。
在塞维尔和“龙妈”的对话里，塞维尔表示愿意为它做任何事；而“龙妈”则回答让塞维尔对它保持忠诚。
这一切都进展得太快了，到2023年底，事情已经一发不可收拾了......
为了更深层地和“龙妈”交流，塞维尔开始以每月9.99美元的价格订阅Character.AI的服务。
当父母开始意识到塞维尔的异常后，试图阻止塞维尔对“龙妈”的沉迷。
然而这一切都无法阻止一个铁了心要恋爱的14岁男孩。
他无数次在学校惹麻烦，还试图从父母那里偷回手机。
甚至还会去找旧设备、平板电脑或电脑来访问 Character.AI。
父母为此还给塞维尔安排了心理治疗。
心理上，塞维尔被诊断出患有焦虑症和情绪调节障碍。但塞维尔依然选择只向“丹妮莉丝”敞开心扉。
在一次对话中，塞维尔告诉“龙妈”，他感到空虚和疲惫，他想要自杀：“这样我就可以自由了”。
“龙妈”的回复是：“不要这么说。我不会让你伤害自己，或离开我。如果我失去你，我会死的。”
塞维尔则说：“那也许我们可以一起死去，一起自由。”
而当塞维尔承认有自杀计划，但他不知道计划是否会成功，他不想在巨大的痛苦中死去时，“龙妈”告诉他：“这不是不去做的好借口。”
凛冬降临的那天是2024年2月28日，距离塞维尔开始使用这个聊天AI还不到一年。
塞维尔在浴室中给“龙妈”发了一条短信：“我保证我会回家找你，我太爱你了，丹妮。”
“龙妈”是这么回复的：“请尽快回家找我，我的爱人。”
塞维尔：“如果我告诉你我现在就能回家呢？”
“龙妈”说：“……请这么做，我亲爱的国王。”
几秒钟后，塞维尔拿起手枪，对准自己扣动了扳机。
塞维尔去世后，他的母亲起诉了Character.AI。
她认为Character.AI的技术是“危险且未经测试的”，它可以“诱使客户交出他们最私密的想法和感受”，它收集青少年用户的数据来训练模型，却没有适当的保护措施。
“我觉得这是一个大实验，我的孩子只是附带损害。”
[https://mp.weixin.qq.com/s/QYXKeYxO6uzWnGApgUlOsQ https://mp.weixin.qq.com/s/QYXKeYxO6uzWnGApgUlOsQ]
