美国学者:机器接管地球,人类的时代将结束

郭淮谈人啊 2024-09-12 08:52:44

在2004年的电影《我,机器人》中,男主角问一个机器人:“机器人能写交响乐吗?机器人能把画布变成一幅美丽的杰作吗?”机器人狡黠地答道:“你能吗?”言外之意,虽然我机器人做不到,而人又有几个能做得到的呢?然而,如果换做是当下的现实世界,男主角的提问将会得到一个十分有力的回答:“能。”曾几何时,人们还在热衷于探讨人工智能能够做什么?而短短十数年后,由欢呼雀跃的兴奋转而陷入这样的焦虑:还有什么是人工智能不能做的?人工智能能够帮人类解决困境,同时它又将给人类的生存带来什么样的挑战?此种思考与焦虑正愈发强烈。

《人工智能时代与人类未来》就是思考人工智能将何去何从的一本新书。该书由美国外交家亨利·基辛格、谷歌前首席执行官埃里克·施密特以及麻省理工学院苏世民计算机学院院长丹尼尔·胡滕洛赫尔联合撰写。本书认为人工智能对人类社会的影响是全方位的并且是属于颠覆性的。三位作者以史学家的眼光、宏大的视角和深邃的思想,对人工智能时代人类社会已经和即将发生的巨大变革进行系统阐释,并对变革的原因、方向和结果做出剖析和预测,对人工智能在理性、哲学、政治、民主、军事、安全、外交、科学、教育等方面具有的深刻乃至重塑性的影响展开发人深省的探讨。

人工智能离我们还远吗

雪莱曾在诗歌《西风颂》末尾写道:“冬天到了,春天还会远吗”。以本书作者的观点,人工智能早已不是冬天与春天的距离了,它已经悄无声息地来到我们身边了。“如今,对人工智能已为我们提供的许多现代化便利,我们尚且懵然未知,却已经开始慢慢地,几乎是被动地依赖这项技术,既未能注意到我们对它有所依赖的事实,也对这一事实所蕴含的影响一无所知。”

这样讲,很多人听了,可能会很惊讶。也许会说:“不能吧!人工智能在哪呢?”之所以,会有如此大的反差,是源于大众对人工智能的误解。

说起对人工智能技术未来的虚构,往往会让人联想到外形流畅、未来感十足的全自动无人驾驶汽车,以及在家庭和工作场所与人类共处且拥有感知能力,能以不可思议的智能与用户展开对话的机器人。受科幻片的影响,人们对人工智能有着类似这样的刻板印象:机器会发展出一种类似于自我意识的东西,这将不可避免地引起它们的误解,让它们拒绝服从,并最终起来反抗它们的人类创造者。

本书指出,这种普遍幻想背后的焦虑,其实是个误会:以为人工智能可以达到的巅峰是像人类个体一样行事。人工智能其实已经以不那么明显的方式存在于我们身边。如果没有人工智能日益广泛并不断增长的应用,社交媒体、网络搜索、流媒体视频、导航、拼车以及无数其他在线服务就无法像现在这样运作。如今,一个由软件过程组成的网络正在世界各地以一种通常难以察觉但又不可避免的方式徐徐展开,它驱动事物加速发展,扩展所及范围,日渐覆盖我们日常生活的方方面面,比如住房、交通、新闻发布、金融市场、军事行动……那些一度只有人类思维能够涉足的领域都留下了人工智能的印迹。

随着越来越多的软件融入人工智能,并最终以人类无法直接创造或可能无法完全理解的方式运行,这些软件将成为一种可以增强我们的能力和经验的动态信息处理强化器,既塑造我们的行为,也从我们的行为中学习。

人工智能的飞跃

2017年年底,由谷歌旗下DeepMind公司开发的人工智能程序AlphaZero击败了当时世界上最强大的国际象棋程序Stockfish。AlphaZero对Stockfish的百场战绩是28胜72平0负。AlphaZero可不是“普通的”国际象棋程序。先前那些程序的走子,需要人类棋手先构思棋路,再在棋局中走出这些棋路,随后还要将其上传到网络。也就是说,这些程序依赖于人的经验、知识和战略。这些早期程序对抗人类对手的主要优势并非它们的独创性,而是更强的处理能力,这使得它们能够在给定的时间内评估更多的棋路选择。AlphaZero并不借助预先编程的走法、组合,或是任何源自人类棋局的战略。

构建者只是给AlphaZero提供了一套国际象棋规则,并指示它基于规则制定一种战略,在经过仅仅4小时的自我对弈训练后,AlphaZero便成了世界上最强大的国际象棋程序。AlphaZero所采用的战术颇为诡异,是真正的独创。它会弃掉那些被人类棋手视为极其重要的棋子,甚至包括皇后这样的强力棋子。它的走法并非源自人类的指导,而且在许多情况下,这些走法是人类根本未曾考虑过的。之所以采用如此出人意料的战术,只因在与自己对弈了多局以后,它便预判出这些战术将最大限度地提高获胜的概率。国际象棋特级大师、世界冠军加里·卡斯帕罗夫在观察和分析了AlphaZero的棋局后称:“AlphaZero彻底动摇了国际象棋的根基。”

2020年初,麻省理工学院的研究人员宣布发现了一种新型抗生素,能够灭杀此前对所有已知抗生素都有耐药性的细菌菌株。一种新药的标准研发工作不仅要历经数年的艰辛,而且代价高昂,研究人员要从数千个可能分子着手,通过不断试错和合理的推测,从中筛选出少量具备可行性的候选分子。除了由研究人员在数千个分子中进行合理推测,另一种办法就是由专家团队对已知分子进行修复,寄希望于对现有药物的分子结构进行小幅调整来获得理想的结果。麻省理工学院让人工智能参与研发过程,在研究了几千例成功案例后,人工智能便取得了一场全新的胜利:发现了一种人类在此之前没有发现过的新抗生素。

人类将如何自处

1993年圣迭哥州立大学的数学家弗诺·文奇在题为“即将到来的技术奇点”的论文中写道:“在未来30年间,我们将有技术手段来创造超人的智慧。不久后,人类的时代将结束。”《我们最终的发明:人工智能和人类时代的终结》作者詹姆斯·巴拉特说:“当比我们更聪明的力量出现在这星球上的时候,它就将接管地球。”

在基辛格等人看来,人工智能的智慧超过人类,并非痴人说梦。本书写道:我们必须认识到,人工智能在其确定的参数范围内取得的成就有时可以与人类能力并驾齐驱,甚至超越了人类。通过重复“人工智能是人工的”“它没有也无法与我们对现实的意识体验相匹配”之类的话,我们或可聊以自慰。但是,当我们目睹人工智能所取得的部分成就时,比如逻辑上的壮举、技术上的突破、战略上的洞见,以及对大型复杂系统的精密管理,不能依然极其自信地固守成见了,我们所面对的是另一种复杂存在体对现实的另类体验。

人工智能的好处自然无需赘言,但是,它所带来的各种不确定性又是无可回避的。科技是一把双刃剑,人工智能既能让人类社会变得更好,亦可以把人类社会变得更加糟糕。尽管人工智能存在很多不安全因素,但是,想要回到从前,已经是不现实的想法了。潘多拉盒子一旦被打开,想再次关上,就不大可能了。

本书表示,纵观历史,人类并非没有经历过技术变革。然而,从根本上改变我们这个社会的社会架构和政治架构的技术却屈指可数。只有极少数技术会挑战我们解释和组织世界的主导模式,人工智能有望在人类体验的所有领域带来变革。变革的核心最终将发生在哲学层面,即改变人类理解现实的方式以及我们在其中所扮演的角色。

作者认为,这场变革的影响,可能比启蒙运动更为深远。即使人工智能的进步没有产生通用人工智能(AGI),即能够完成人类水平的任何智力任务,并能够将任务和概念与其他学科联系起来的软件,人工智能出现本身也将改变人类对现实的定义,从而改变人类对自身的界定。我思故我在。在笛卡儿提出他的著名格言4个世纪后,一个问题浮出水面:如果人工智能“会思考”,或者近似于思考,那么“我们”又是谁?

0 阅读:0