AI如何演变出模拟”混乱”人类思维的能力

人工智能领域的随机性思想渊源，源自20世纪中期工程师们的理念——他们认为，若要让机器具备类人思考的能力，就必须具备一定程度的非理性。麻省理工学院历史系助理教授本杰明·林德奎斯特提出了这一观点，他同时在麻省理工学院施瓦兹曼计算学院与电气工程和计算机科学系担任联合职位，并是信息与决策系统实验室的首席研究员。

为了模仿创造性思维，这些人工智能先驱有意在原本用于确定性解决问题的算法中注入随机性，林德奎斯特在发表于《过去与现在》期刊的新论文中写道。在论文中，他将人工智能”幻觉”现象的起源追溯到这些早期研究，并指出，在试图构建模仿人类行为的机器时，创造力与可预测性之间将存在不可避免的权衡。MIT新闻就这些观点采访了林德奎斯特。

问：早期计算机工程师为何认为，需要在为逻辑和计算而设计的AI系统中注入随机性和非理性？

答：科学与艺术领域的许多人物长期以来都有一种理论，认为偶然性在发现和创造中扮演着重要角色——它关乎产生想法的能力。他们将创造力等同于逻辑的意外跳跃，甚至是一种类似梦境的状态，让人能够从新的角度思考事物。

20世纪50年代初，贝尔实验室的著名电气工程师约翰·皮尔斯提出了一个广受欢迎的想法，即数学在艺术世界中具有价值。这一观点在早期计算机领域的许多工作者中得到了认同。当我们想到包含数学的艺术品时，可能会想到某种非常有序精确的东西，但皮尔斯得出了相反的结论。他认为，数学的用处恰恰在于能够从艺术中消除秩序。随后，以一种非常精心计算的方式，数学可以添加一段意外的爆发，作为偏离陈词滥调的手段，加入某种不规则的元素，而这恰恰可能带来洞见。

在原本可预测的计算机中加入不规则性的一种常见方法，是通过人工（或随机）神经网络。许多早期的神经网络是由心理学家构建的，他们认为，通过让科学家构建大脑模型，人工神经网络可以让科学家观察内部正在发生的事情，包括大脑如何产生有成效的错误。研究人员认为，这些系统并非黑箱，而是可以打开思维的这个黑箱，让科学家窥见其中真实发生的所有混乱内容。

但人工智能领域还有另一派观点，他们认为创造性思维只是”正常”思维做得更好而已。观察这两种理解智能与创造力的极为简化的思维方式，以及它们如何契合或不契合，是很有意思的事情。因此，当时的争论在于，试图确定人类创造力的本质究竟是什么，然后如何以机器形式重构人类的创造力。

问：早期计算机工程师如何看待人工智能，这与我们今天对人工智能的看法有何不同？

答：当我们想到AI系统时，会想到ChatGPT或Claude。我们重视并使用这些系统，是因为它们给出的答案大多数时候是正确的。在这项研究中，令我最感兴趣的一点是，发现这些系统的许多早期倡导者，恰恰出于相反的原因而重视它们。他们想要的是一个偶尔会给出偏离预期答案的系统。他们当时已经拥有能够提供合理且符合预期答案的系统。他们认为神经网络之所以有价值，正是因为它们能给出意想不到的，甚至可能是奇怪和怪异的答案。

我们今天看待这些系统的方式有所不同，原因之一可能在于它们的运作方式。早期，这些系统被局限在实验室内，因此一个给出奇怪或错误输出的系统，实际上并不会带来真正的现实后果。但现在，OpenAI或Anthropic出于法律和经济上的原因，不希望聊天机器人给出意外或”富有创造力”的答案。这些系统中的怪异性已经被”打磨掉”了。它们的核心或许仍然潜藏着这种特质，但如今已基本被抑制。

问：早期结合随机性来模拟人类创造力的神经网络，是如何演变成为人工智能领域的主导范式的？

答：很长一段时间里，一种被称为”符号AI”的特定人工智能方法一直占据主导地位。本质上，符号AI认为世界是基于规则运行的。AI研究人员的角色，就是尝试将世界的知识重构为事实和命题，并输入到计算机中。

神经网络由于使用随机性来解决问题，在20世纪50年代开始受到关注，但很快就失去了favor。弗兰克·罗森布拉特是一位心理学家，也是神经网络早期发展中非常重要的人物，他英年早逝；1971年，他在43岁生日当天因意外去世。他是一个颇具魅力和感染力的人物，对基于神经网络的系统能够实现的功能做出了许多宏大的承诺。在他去世时，向符号AI的转变已经在进行中。如果他能继续活下去，情况或许会有所不同。

但神经网络从未真正消失。到20世纪80年代，它们更多地转移到了认知科学领域。要变得更强大、更有用，神经网络需要大量的数据和计算能力。而这一切，直到互联网出现、大量数据开始涌现、计算能力开始提升之后，才真正到来。大约在2012年前后，神经网络开始在性能上超越并领先于一种统计形式的机器学习，并由此不断发展壮大。

问：研究人工智能的历史，能为其未来发展提供哪些启示？

答：我认为这其中有一个值得警醒的教训。这些早期工程师的思想和经历告诉我们，我们可以努力消除”幻觉”——可以努力让人工智能以某种特定方式运行，从而不产生意外或不希望出现的答案——但这样做必然会带来其他后果。这些历史人物的想法确实有其道理。人工智能所能提供的令人惊讶和富有创造性的结论，与错误或幻觉之间，存在着某种联系。当我们将系统设计为以某种方式运行时，就会存在权衡取舍。也许完全处于这个光谱的某一端是不可能的，但当我们努力稳健地实现某一目标时，往往会在无意中牺牲另一些东西。