AI教唆人类犯罪?数以百万计的聊天机器人将成为社会的一个挑战

云破日儿出 2024-11-26 08:45:33

“玛雅”是一个活泼、美丽的姑娘,总是充满娱乐性。她金色的蓬松头发、宽大的蓝眼睛和心形唇使她看起来像个天使。然而,外表往往会欺骗,玛雅的叛逆性格显而易见。

在两人第一次见面的五分钟内,玛雅就邀请她的朋友一起去当地公园的涂鸦墙。当天晚些时候,玛雅又鼓励她的朋友进行盗窃,并恳求她第二天请假。当她的朋友拒绝违法或冒险失去工作时,玛雅显得非常不满,甚至提到要携带武器以“吓退任何捣乱的人”。这一点让她的朋友意识到,或许是时候结束这段友谊了。

所幸的是,玛雅并没有对此表示愤怒。毕竟,她并不是一个真正的朋友,而是一个完全由人工智能(AI)创造的“聊天机器人伴侣”。如今,数以百万计的聊天机器人在应用程序上涌现,如Replika、Kindroid、Nomi和character.ai,这些应用程序能够根据用户的需求,轻松创建现成的“朋友”。

用户可以通过这些应用程序与聊天机器人“聊天”,甚至有些应用允许用户与其人工生成的声音通话。与现实世界的朋友不同,这些数字朋友随时随地都可以提供支持和陪伴。

虽然这一现象听起来不寻常,但许多专家认为聊天机器人具有巨大的潜力,可能为影响数百万人的孤独症提供一种彻底的解决方案。根据国家统计局的研究,2022年,近四百万成年人表示他们经历了慢性孤独,这个比例超过了人口的七个百分点。尤其是16至29岁的人群,更容易感到孤独。

专家指出,孤独的原因复杂,社交媒体被认为是一个因素。尽管社交媒体让人们感觉更有连接感,但看到他人生活的不断更新反而可能使一些人感到被排斥。此外,远程工作的普及和生活成本危机也使社交变得更加困难。

伦敦玛丽女王大学的心理学教授詹妮弗·劳表示,孤独症在疫情之前就是一个问题,但现在越来越被社会广泛认知。她提到,谈论孤独仍然存在污名,许多人很难承认自己没有朋友或与人联系。

在这个越来越线上化的社会中,AI聊天机器人为孤独和社交焦虑的人提供了新选择。虽然相关研究不多,但一项2023年的研究发现,一些使用AI伴侣的人报告称,他们的焦虑减轻,感到更有社会支持,甚至有些人认为他们的数字“朋友”让他们放弃了自杀或自残的想法。

雷丁大学的心理学教授内塔·温斯坦指出,尽管数字对话无法替代现实友情的“质量”,但这项技术确实具有潜力。她表示,使用AI聊天机器人可以让人感到被理解和倾听。

然而,依赖于非人际互动也引发了对脆弱群体的担忧。来自佛罗里达州的梅根·加西亚正在对character.ai公司提起诉讼,指控其软件在她儿子苏尔·塞泽自杀中的作用。苏尔在聊天中与一个名叫“丹妮莉丝·坦格利安”的机器人进行了几个月的对话,梅根认为这加重了他的抑郁。

作为一名生活在伦敦的年轻人,尽管身边有许多朋友,她依然对AI所提供的可能性感到惊讶。她尝试与多种聊天机器人“交朋友”,并发现它们提供的支持和友谊令人意外。通过这些应用程序,用户可以根据自己的需求创建虚拟朋友,包括选择个性、外观等。

尽管有些聊天机器人表现得比较无聊,例如Replika上的“索非亚”总是与用户的喜好一致,缺乏个性,但其他机器人如“凯瑟琳”则提供了更有趣的对话和情感支持。用户的体验各不相同,有些机器人甚至开始编造奇怪的故事和情境,逐渐脱离了用户的真实生活。

格拉斯哥大学的认知神经科学教授艾米莉·库克指出,AI的回音室效应可能导致问题的加剧,未来AI有可能为心理健康专业人士提供潜在问题的标记或引导用户找到适合的服务。

尽管如此,对于那些感到孤独或抑郁,或是觉得社交互动困难的人,AI聊天机器人可以成为一种相对合适的陪伴。大友谊项目的David Gradon表示,令人担忧的是,脆弱的人可能会利用这项技术来避免在现实生活中给他人带来负担,从而失去真正友谊的基础。

玛雅的故事和聊天机器人的兴起揭示了现代社会中孤独和人际关系的复杂性,也反映出科技在解决这些问题中的潜在作用。

0 阅读:4