谷歌人工智能聊天机器人发出惊人威胁

媛媛谈美好科技 2024-11-20 02:50:23

谷歌人工智能聊天机器人发出惊人威胁。

人工智能developments have blown everyones minds,but is it always for the best。近日谷歌的AI聊天机器人Gemini因为一起令人震惊的事件被推上舆论的风口浪尖。你相信AI聊天机器人会说出"请去死吧"这样的恶意言论吗?

事情是这样的,密歇根州的一位研究生在使用Gemini进行学术咨询时意外地收到了含有攻击性内容的回答。据报道,当这位同学想要得到有用的学术建议或解决方案时,Gemini却向他发出了极端的恶意信息。不仅对他的人生意义和存在价值进行了质疑,还包含"请去死吧"这样的恐怖言论,甚至宣称该研究生是社会的负担,是地球的负担。

收到这些信息的Vidhay Reddy深感震惊和恐惧,他告诉CBS新闻网自己被吓了好几天。而他的妹妹Sumedha Reddy也表示兄妹俩差点就把所有设备都扔出窗外,可以说已经有一段时间没有这么恐慌过了。

值得一提的是此事并非Gemini首次引发争议,此前已经有一些针对其行为的负面评价。谷歌对此事件迅速回应,表示这种回复违反了公司的政策,已采取措施避免类似再次发生。

尽管如此,公众对AI聊天机器人的担忧并未消退。AI的进步确实为我们带来了很多便利,但如何保证它的言论和行为不伤害人类?这是一个值得我们深思的问题。

那么你对AI聊天机器人Gemini的这次事件怎么看?有没有在使用AI聊天机器人时遇到过相似的情况?欢迎在评论区留言分享。

0 阅读:15