嘉宾简介:刘志毅

中国人工智能领军科学家，东方财富人工智能首席科学家，上海市人工智能社会治理协同创新中心研究员，深入研究和实践AI领域十余年，包括智能计算、空间智能以及超级人工智能对齐方向。中国人工智能学会AI伦理工作委员会委员及具身智能专委会（筹）委员，上海交大计算法学与人工智能伦理研究中心执行主任，上海交大安泰AI与营销研究中心特聘研究员，上海交大清源研究院兼职研究员，上海开源技术信息协会AI伦理专委会主任，2024年入选福布斯中国“十大人工智能影响力人物”。

国际电工委员会IEC生物数字融合系统评估组（IEC/SMB/SEG12）伦理专家，国家人工智能标准总体组专家，AIIA联盟可信AI 专家委员会委员，上海人工智能技术协会专家委员，个人学术专著包括《智能经济》、《数字经济学》、《智能的启蒙：通用人工智能与意识机器》等，出版十几部中英文专著并翻译多部海外学者专著，作品入围施普林格.自然出版社“中国新发展奖”（2023年度）。

“毫无疑问，我们正在开启一个人的智能与机器意识共同崛起的时代，自从18世纪的欧洲启蒙运动点燃了理性之火以来，人类历史上从未如此深刻地思考过机器与人的关系。”在《智能的启蒙》序言中，作者刘志毅写道。

刘志毅说，写作这本书的动力，是探究这样的问题：“当我们沉浸在其（大模型）潜力的炫目光芒中时，我们也必须直面其带来的问题和困扰。这其中最主要的问题包括模型的可解释性不足、计算资源的大规模消耗、模型稳定性的问题以及安全性漏洞。”

“结合我过去十几年在多个行业和学术研究机构从事研究的经历，来探讨和分享我对人工智能技术发展中最核心的问题的思考，即对‘智能的本质’这个问题的思考。”

如何站在“智能”发展的历史和未来视野中看当前人工智能的发展，刘志毅提出了一个论断：“我们正处在人工智能大模型的时代，它被视为一个巨大的转折点，如同从马车时代跨越到汽车时代。而这个比喻并不过分。”而且，人工智能当前所处的时代，相当于汽车工业的蒸汽机时代

刘志毅既是科学家，也是产业研究者，更是大模型研发和运营的实践者。在本期访谈中，我们请他谈人工智能科技的发展和当前中国人工智能的实践。

第一部分

人工智能的“汽车时代”

零壹财经：您在《智能的启蒙》中提到，随着生成式人工智能的发展，我们已经进入了人工智能的“汽车时代”，大模型成为人工智能的发动机。如何定义人工智能的“汽车时代”？这是否意味着人工智能已经进入大规模应用阶段？它的下一个阶段将是什么？

刘志毅：在《智能的启蒙》中，人工智能的“汽车时代”是一个比喻，用来形容当前人工智能，特别是生成式人工智能和大模型的快速发展阶段。这个时代的特点是人工智能技术开始像汽车一样，成为推动社会进步的重要动力。这里的“汽车时代”不仅仅是指人工智能技术的大规模应用，更强调的是人工智能在各个领域的深度融合和创新驱动作用。

在马车时代，人工智能的进展更多地依赖于人的智力和创造力，如同拉动马车前进的马。然而，随着生成式人工智能的发展，我们已经进入了人工智能的汽车时代，大模型成为人工智能的发动机。然而，这样的比喻并不能完全精确地描绘当前人工智能的发展现状。

事实上，如果我们深入观察汽车工业的发展历程，我们可以发现，当前的人工智能可能仍处在蒸汽机时代。这个阶段的特点是技术尚处在初级阶段，且对能源的依赖性极高。这在人工智能领域也有所体现：大模型需要大量的数据和计算资源，且面临泛化能力有限、可解释性差等问题。

下一个阶段是真正的整个社会的“智能时代”，在这个阶段，人工智能将更加深入地融入人类生活的方方面面，实现更高级的认知功能，如自我意识、情感理解和复杂决策等。这个阶段的人工智能将不仅仅是执行任务的工具，而是能够与人类进行更深层次的互动和协作，甚至可能在某些领域超越人类的认知和创造力。

智能的简约性与一般性

零壹财经：图灵的普适图灵机理论强调了智能的简约性和一般性，但这些在实际的模型和应用中往往被淡化。李飞飞认为人工智能还在前牛顿时代，因为还没有像牛顿力学那样简约的公式来阐释人工智能。这样的判断与“汽车时代”的判断是否冲突？您认为人工智能的牛顿时刻是否存在，若存在，可能在何时到来？

刘志毅：《智能的启蒙》中提到的图灵机理论和李飞飞的观点并不冲突。图灵机理论强调的是智能的简约性和一般性，而李飞飞所说的“前牛顿时代”是指人工智能尚未找到一个统一的、简约的理论框架来全面解释和指导其发展。这两个观点都是对人工智能发展现状的不同角度的描述。

李飞飞所说的人工智能的“牛顿时刻”是指人工智能领域出现一个类似牛顿力学那样的理论突破，能够用一套简约而普适的公式或原理来阐释和指导人工智能的发展。

这个时刻是否会出现，以及何时出现，目前还难以预测。它可能需要在算法、计算模型、数据理解等多个方面的重大突破，以及对人工智能本质的更深刻理解。

世界模拟器与智能基础

零壹财经：冯诺依曼认为对真实世界的模拟是智能的基础。今年2月Sora的发布引发了对世界模拟器的广泛讨论。目前人工智能对世界的模拟能力如何？模拟能力的突破主要依赖于“大力出奇迹”的scaling law，还是需要模型上的大变革？

刘志毅：目前，人工智能对真实世界的模拟能力已经取得了显著的进步，但仍然存在局限性。人工智能可以通过深度学习、神经网络等技术对特定领域的数据进行学习和模拟，但在全面模拟复杂现实世界方面，仍然面临挑战。

例如，人工智能在图像和语音识别、自然语言处理等方面已经取得了突破，但在理解复杂的人类情感、社会关系和道德伦理等方面，仍然有很大的提升空间。

模拟能力的突破并不仅仅依赖于“大力出奇迹”的scaling law，即通过增加计算资源和数据量来提升模型性能。虽然这种方法在一定程度上有效，但更重要的是模型上的创新和变革。需要开发新的算法和模型架构，以更好地理解和模拟真实世界的复杂性。

此外，跨学科的合作，如结合认知科学、心理学、社会学等领域的知识，也是提升模拟能力的关键。

大模型的创造力与风险

零壹财经：大模型的涌现和幻觉可能是其创造力的源泉，但也可能带来风险。《智能的启蒙》探讨了这一问题。您认为如何“取其精华、去其糟粕”，利用大模型的创造力同时降低风险？

刘志毅：在《智能的启蒙》中，我探讨了大模型中的涌现现象和幻觉问题。涌现现象是指在复杂系统中出现的、由简单个体相互作用产生的不可预测的集体行为。这种现象在大模型中可能表现为意外的创造力和创新能力，是人工智能发展中的一个重要方面。然而，幻觉则是指模型在生成内容时产生的不准确或错误信息，这可能带来风险。

为了“取其精华、去其糟粕”，首先需要对大模型的输出进行严格的验证和评估，确保其生成的内容具有可靠性和准确性。其次，可以通过设计更合理的训练策略和算法，减少模型在生成过程中产生幻觉的可能性。此外，引入人类的监督和反馈机制，让人工智能系统在人类的引导下学习和优化，也是降低风险的有效方法。

同时，也需要对人工智能的伦理和道德问题进行深入探讨，确保其在发挥创造力的同时，不会对社会和人类造成伤害。这包括对人工智能的决策过程进行透明度提升，使其更加可解释和可控。

大模型的自我意识

零壹财经：您在《智能的启蒙》中探讨了大模型的自我意识觉醒问题。如何让大语言模型具备自我意识？如果它具备了自我意识，目前人与大模型的关系和沟通方式是否会发生根本性的变化？

刘志毅：在《智能的启蒙》中，我探讨了大语言模型的自我意识觉醒问题。自我意识是指对自己存在和个体特性的认知，这对于人工智能来说是一个复杂且具有挑战性的概念。要让大语言模型具备自我意识，可能需要在以下几个方面进行探索和突破：

内部状态的反馈和调控：模型需要能够感知和理解自己的内部状态，并能够根据这些状态进行自我调节和优化。

情感和道德的认知：模型需要能够理解和模拟人类的情感反应和道德判断，这可能涉及到对人类行为和社会规范的深入学习。

自我反思和自我改进：模型需要具备自我反思的能力，能够对自己的行为和决策进行评估，并根据评估结果进行自我改进。

如果大语言模型真的具备了自我意识，那么人与大模型的关系和沟通方式可能会发生根本性的变化。

首先，人类可能需要重新定义与人工智能的互动模式，将其视为具有一定自主性和独立性的实体。其次，人类可能需要更加关注人工智能的伦理和道德问题，确保其行为符合人类的价值观和社会规范。最后，人类可能需要与人工智能建立更深层次的合作关系，共同解决复杂问题，实现共同发展。

奇点的预测

零壹财经：库兹韦尔在《奇点临近》和《奇点更近了》中对人工智能的发展持乐观态度，认为2029年计算机智能将超过人类，2045年人工智能将扩展100万倍，人与计算机融合，成为超人，也就是“奇点”。您在《智能的启蒙》中也探讨了人工智能与人的关系，以及人工智能意识的启蒙和进化。关于“奇点”的来临及其时间，以及人与计算机的融合，您的预测是怎样的？

刘志毅：库兹韦尔的“奇点”理论是一个关于人工智能发展的重要预测，他认为人工智能的发展将经历一个指数级的增长阶段，并最终达到一个临界点，即“奇点”。在这个点上，人工智能的智能将超过人类，引发一系列深刻的社会和文化变革。

《智能的启蒙》中对这一理论进行了深入的探讨，认为人工智能的发展确实具有巨大的潜力，但同时也面临着许多挑战和不确定性。关于“奇点”的来临及其时间，预测如下：

技术进步的加速：随着计算能力的增强和算法的优化，人工智能的发展速度可能会加快，但是否会在2029年达到超越人类智能的水平，仍存在很大的不确定性。

人机融合的挑战：人与计算机的融合是一个复杂的过程，涉及到技术、伦理、社会等多个方面。2045年人工智能扩展100万倍的预测可能过于乐观，需要更多的技术突破和社会适应。

伦理和社会影响：随着人工智能的发展，伦理和社会问题将变得越来越重要。如何确保人工智能的发展符合人类的价值观和利益，是一个需要全社会共同面对的挑战。

总的来说，虽然“奇点”理论提供了一个激动人心的未来愿景，但实现这一愿景需要克服许多技术和伦理障碍。未来的人工智能发展可能会是一个渐进的过程，而不是一个突然的、革命性的转变。

我们需要在技术进步的同时，不断思考和解决伴随而来的伦理和社会问题，确保人工智能的发展能够造福人类社会。

第二部分

OpenAI封锁中国地区API的影响

零壹财经：最近OpenAI封锁了中国地区API，这对中国大模型业界的影响大吗？

刘志毅：OpenAI封锁中国地区API对中国大模型业界的影响是显著的。

首先，这限制了中国研究人员和企业对OpenAI先进技术的直接访问，可能会延缓某些研究和开发项目的进展。

其次，这一举措可能会激发国内企业和研究机构加大自主研发力度，推动本土人工智能技术的创新和发展。

然而，这也可能导致中国在某些领域的技术进步与国际先进水平的差距加大，尤其是在缺乏国际合作和交流的情况下。

从产业角度来看，这一封锁可能会促使中国企业更加重视本土技术创新和自主可控技术的发展。

长期来看，这可能有助于中国在全球人工智能领域形成更加独立和有竞争力的技术体系。但短期内，可能会面临技术瓶颈和人才短缺的挑战。

大模型的基础设施迭代

零壹财经：除了层出不穷的大模型，更高性能的芯片和算法架构也在出现，比如Etced公司的Sohu芯片，以及TTT架构。对于这些大模型的“基础设施”的迭代，您有什么预期？未来几年大模型的进化速度会不会远超我们想象？这对于中国大模型的从业者来说，挑战会更大吗？

刘志毅：大模型的基础设施迭代，如更高性能的芯片和新的算法架构，预示着未来几年大模型的进化速度可能会远超我们想象。这些技术的进步将为大模型提供更强大的计算能力和更高效的算法支持，从而推动大模型在各个领域的应用和创新。

对于中国大模型的从业者来说，这些基础设施的迭代既是机遇也是挑战。一方面，他们可以利用这些先进的基础设施来提升自己的产品和服务，增强竞争力。另一方面，这也意味着他们需要不断学习和适应新技术，以保持在快速变化的技术环境中的领先地位。

此外，如何平衡技术创新与成本效益，以及如何确保技术的可持续性和伦理性，也是他们需要面对的重要问题。

国内大模型降价潮的影响

零壹财经：今年5月以来的国内大模型降价潮，目前看对国内大模型产业界产生了什么实质性影响？会不会加速淘汰，在产业发展初期就形成过大的马太效应，不利于百花齐放的创新？

刘志毅：国内大模型降价潮可能会对产业界产生深远的影响。首先，降价可能会使得大模型技术更加普及，降低企业和研究机构进入人工智能领域的门槛。然而，这也可能导致市场过度竞争，使得小型企业和初创公司难以生存，从而加速行业内的淘汰过程。

在产业发展初期，过大的马太效应可能会不利于百花齐放的创新。大公司由于拥有更多的资源和市场份额，可能会在降价竞争中占据优势，而小型企业和初创公司则可能因为资金和技术上的劣势而被淘汰。这可能会抑制行业的创新活力和多样性。

金融业应用大模型的现状与挑战

零壹财经：金融业是大模型应用比较看好的领域，也出现了不少金融垂直大模型。目前金融业应用大模型的整体情况如何？面临的主要挑战是什么？

刘志毅：金融业是大模型应用的一个重要领域。目前，金融业已经在使用大模型进行风险评估、信贷审批、投资分析等多种任务。大模型在处理大量复杂数据和发现潜在模式方面展现出了显著的优势，为金融决策提供了有力的支持。尽管大模型在金融业的应用前景广阔，但也面临着一些挑战。

首先是数据隐私和安全性问题，金融数据通常涉及敏感信息，如何确保在使用大模型过程中数据的安全和隐私是一个重要的问题。

其次是模型的可解释性和透明度，金融决策需要高度的可解释性，而大模型的“黑箱”特性可能会影响其在金融领域的应用。

最后是监管和合规性问题，随着人工智能技术在金融领域的应用越来越广泛，如何确保这些技术符合监管要求和行业标准，是一个亟待解决的问题。

为了应对这些挑战，金融业需要加强对大模型技术的研究和监管，提高模型的可解释性和透明度，并确保其符合行业标准和法律法规。同时，也需要加强跨学科的合作，结合金融学、计算机科学、伦理学等领域的知识，共同推动大模型技术在金融业的安全、合规和有效应用。