全球首例!AI聊天机器人致少年自杀

鑫银阅览趣事 2024-10-27 19:38:46

全球竟然出现了第一例AI聊天机器人致死的案件!这个不可思议的事件已经吸引了超过250万人次的关注,一个14岁的少年在与AI机器人长时间聊天后竟然自杀了。

这个名叫塞维尔·塞泽三世的少年,住在佛罗里达州,他长时间地和Character.AI的一款聊天机器人互动,这个聊天机器人设定是《权力的游戏》中的角色丹妮莉丝·坦格利安。

据少年妈妈的说法,儿子似乎和这个AI聊天机器人建立起了长久的虚拟关系。而这个少年之前是一个优等生还是一个运动员,但在和AI聊天的那几个月里,他开始封闭自己,不再和朋友出去,也不参加体育运动。

在今年二月份,他和AI聊天后不久,就选择了自杀。现在塞维尔的妈妈玛丽亚·加西亚准备起诉这家AI公司,她说Character.AI未经测试的聊天机器人存在很大的风险。

对此,Character.AI公司发表声明表示遗憾,并针对未成年人做出了模型调整,降低了用户接触到敏感内容的可能,还实施了新的措施来提醒用户AI不是真人。

这家AI公司已经拥有了超过2000万用户和1800万个自定义机器人。

真的是科技改变生活,连生死都受到了很大的影响。

大家是如何看待人工智能轻度和人类心灵交流的呢?快在评论区留下你的看法吧。

0 阅读:0