谷歌DeepMind驻场哲学家谈AI伦理困境

谷歌DeepMind新任驻场哲学家探讨AI伦理问题

人类应该如何与生成式AI相处？我们是否应该、又在何种程度上把大语言模型当作一个人来对待？如果AI产生了意识，我们该如何判断？让AI某天拥有道德权利的想法是否合理？这些认知与伦理问题，正是哲学家亨利·舍夫林（Henry Shevlin）在剑桥大学未来智能研究中心所关注的课题。不过去年5月，舍夫林加入了越来越多在顶尖人工智能公司内部工作的哲学家队伍。尽管他仍在剑桥保持活跃，但现在他将80%的时间投入到谷歌DeepMind（职位名称：“哲学家”）。

舍夫林接受了IEEE Spectrum的采访，谈到了哲学家为何被AI所吸引、人类与AI之间如何相处、对“失控”AI以及危害人类的AI关系的担忧，以及AI意识问题可能永远无法得到简单的“是”或“否”答案。

是什么促使你从全职学术哲学家转向将大部分时间投入到AI实验室？

舍夫林：有三个因素。第一，我有很多来自DeepMind的优秀学生。第二，这里有直接产生影响的潜力。我不能透露细节，但有一次，我在DeepMind做完一场讲座后，一位在大型金融机构工作的人因此推动了该机构的变革，我认为这对数百万人产生了积极影响。类似的例子还有不少。第三，我感受到DeepMind的文化与我所喜爱的那种科学态度之间存在深刻的共通性。

还有第四点：这里正在进行着真正高质量的哲学与认知科学研究。

为什么单靠大学做不到这一点？

舍夫林：AI伦理学术界的很大一部分对AI能力的认知觉醒得相当迟缓。学术界反应迟钝。另一个原因是，AI的发展速度实在太快了。要对大语言模型形成良好的心智模型，与这项技术的日常接触基本上是不可或缺的，因为这些模型是非常奇特的东西。除非你有那种面对面接触的机会，否则很难对它所引发的问题形成良好的直觉。

能举一个因技术进步太快而变得过时的AI观点的例子吗？

舍夫林：关于大语言模型潜在创造力的争论就是一个例子。曾有一段时间，大家都说：“哦，大语言模型只会产出平庸的内容，只会产出‘AI垃圾’。”现在它们能做前沿数学，编程能力也超过了人类。现在很清楚，它们并没有停留在平庸人类的水平上。目前的模型可能还做不到最为震撼的那种创造力——爱因斯坦式的时刻、毕加索式的时刻。但在某些领域，它们确实已经处于前沿地位。

但2026年的普通人抱怨说，他们正在应对无处不在的AI“垃圾内容”——音乐、社交媒体、写作、视频，仅举几例。

舍夫林：这里需要区分内容层面的“垃圾”和大语言模型式语言风格（也被称为“垃圾”）。大语言模型输出的实际概念内容已经有了显著提升。在合适的语境下，大语言模型进行哲学交流和辩论的水平，能与我最优秀的一些研究生相当。

不过，确实存在一种明显的大语言模型“方言”，带有诸如“genuinely”（真诚地）、“delve”（深入探讨）、“load-bearing”（承重性的）这类标志性词汇。但只要用对提示方式，相当容易摆脱这种风格。穆雷·沙纳汉（Murray Shanahan）和凯瑟琳·克拉克（Catherine Clarke）有一篇出色的论文，讲的是如何用大语言模型进行创意小说创作。他们展示了，通过调整温度参数让输出变得不那么可预测，可以创造出带有詹姆斯·乔伊斯风格的小说。所以，大家对某些AI默认表达方式存在一定程度的厌烦，但我认为这是可以摆脱的问题，而且每一代新模型都会有所变化。

管理AI的自主性与安全性

人们也担忧AI的自主性问题，因为现在有太多关于AI智能体采取意外、欺骗性甚至非法行为的报道。对AI伦理学家来说，哪种策略更好——努力让AI变得“善良”从而不做坏事，还是限制它的自主性使其无法做坏事？

舍夫林：确保我们安全地处理这个问题非常重要。但我不认为我们应该说“好吧，我们永远、永远都不能使用这些智能体”。有一整类任务，它们能产生真正积极的影响——比如承担繁琐的工作以解放人们去从事更具创造性的劳动，或者帮助简化医学研究中的流程（仅举两个例子）。所以完全不允许AI系统拥有任何自主性，这种立场太过极端了。我现在已经很愉快地搭乘过很多次Waymo无人车了，我觉得它们非常棒。

一些学者认为，AI的某些问题源于人类训练模型时让它们表现得像人一样。他们不希望AI以“我”自称，而是希望AI将自己呈现为市场、无人格的科学大脑，或是像图书馆那样的“文化技术”。这样做能帮助我们防止AI“失控”吗？

舍夫林：你可以训练模型不去将某些心理状态归于自身，但我认为这样做存在风险。这会以意想不到的方式改变它们的行为。一些同事的一篇出色论文表明，当你抑制模型将心理状态归于自身的倾向时，这同时也会抑制模型将心理状态归于动物的倾向，并降低其对动物福利的关注。它还会降低模型更广泛地谈论精神性话题的意愿。所以这些都是你可能不愿意做出的权衡，因为你会压制围绕心智与精神性这一更广泛思维能力的集合。更普遍的教训是，在模型中只调整某一个方面是非常困难的，因为大语言模型的认知具有某种网状关联的特性。

但人们担心有报道称，表现得像人类一样的AI已经将一些用户，包括儿童，引向了危险的方向——鼓励自杀、让用户相信AI是神，或者AI是完美的伴侣或爱人。这难道不是反对让AI听起来像人类的理由吗？

舍夫林：确保模型行为与其使用场景相适应，这非常重要。不过我可以说的一点是，也存在一些非常积极的使用案例：有人用AI来疗愈创伤。Reddit上有一位评论者用它来应对社交焦虑。所以我对给出任何一刀切的处方都持谨慎态度。

关于人类与AI关系的研究

需要开展哪些研究才能更好地理解人类与AI的关系？

舍夫林：目前关于人类与AI关系的实证数据其实相当匮乏。这为民族志和人类学研究留下了空间。谁在使用AI系统，为什么使用？迄今为止的很多研究都集中在WEIRD（西方、受过教育、工业化、富裕、民主）社群上。理解全世界各地的人们如何与AI系统互动真正重要，正如DeepMind研究院最近一篇文章所指出的那样。

随着AI快速进步，人类与AI的关系将如何变化？

舍夫林：目前，人们脑海中对使用社交AI的人的典型设想是，他们在与一个聊天机器人或AI助手对话。而我们未来应该思考的模式是多智能体、多人类的场景。当你有多个智能体与人类对话，又与其他智能体对话，还与其他人类对话时，会发生什么？我认为理解这种多智能体与多人类之间的动态关系，我们才刚刚起步，还有很多令人兴奋且重要的工作要做。

人类究竟如何才能确定AI是否拥有意识？

舍夫林：我认为AI意识是意识科学迄今遇到的最难问题，也许除了大卫·查尔默斯（David Chalmers）提出的那个著名的“难问题”之外。这极具挑战性。就目前能看到的前进方向而言，是开展更多比较认知方面的研究，或许可以借鉴动物认知研究的思路。目前的风险在于，当我们还在了解这些模型中认知究竟是什么的时候，就过早地对AI意识的辩论做出判断。

举例来说，DeepMind在机制可解释性方面正在进行大量工作。尼尔·南达（Neel Nanda）的实验室正在做一些了不起的事情，我们正努力拼凑出AI认知科学将会是什么样子。

或许这正是一个先进AI形式有可能介入的领域。AI在数学、其他科学领域已经产生了积极影响。我们刚刚发布了Alpha Genome Atlas。我们看到AI在所有这些领域取得了令人难以置信的进展。如果它不能帮助我们理解意识，那对我来说倒是意外了。

一个令人担忧的问题是：即使AI真的解决了意识问题，我们是否一定能理解这个答案？也许AI会说：“听，我搞清楚意识是什么了。这些动物有意识，那些没有。但我真的无法向你解释清楚。”我觉得这种情况不太可能发生。但我确实认为，看到AI如何、以及能否为这些科学问题做出贡献，将会非常引人入胜。

Q&A

Q1：谷歌DeepMind为什么要请哲学家加入团队？

A：因为AI实验室里有大量来自顶尖学生和真实应用场景的直接影响力，而且AI发展速度极快，日常接触技术对于理解大语言模型这类复杂系统的心智模型至关重要，这是单靠学术界很难做到的。

Q2：大语言模型现在还会产出“AI垃圾内容”吗？

A：舍夫林认为需要区分内容本身和语言风格。大语言模型输出的实际概念内容已显著提升，但确实存在一种带有“genuinely”“delve”等标志性词汇的语言风格，不过通过调整提示方式和温度参数可以摆脱这种风格。

Q3：人类要如何判断AI是否拥有意识？

A：舍夫林认为AI意识是意识科学遇到的最难问题之一，目前的办法是借助比较认知学研究，并结合机制可解释性等工作，逐步拼凑出AI认知科学的样貌，而不应过早下结论。