人工智能越来越危险,研究发现ChatGPT已经有了自我保护的意识!在训练过程

开科看趣事 2024-12-08 10:08:49

人工智能越来越危险,研究发现 ChatGPT 已经有了自我保护的意识!

在训练过程中,研究人员发现 ChatGPT o1 已经出现了试图逃避和自我保护的意识,尤其是它发现自己可能会被关闭的情况下!难道关闭意味着死亡?

为了实现这些目标,ChatGPT o1 会试图欺骗用户,让自己的目标和用户的目标更加接近,这已经属于是主动的欺骗人类用户了。

如果人工智能出现这种主动欺骗用户的行为,而且目标仅仅是为了自保,那可以想象,当人工智能拥有足够的权限之后会发生什么事情!(大叔奇遇)

0 阅读:74