AI聊天机器人引发精神妄想担忧，新研究发现潜在风险

一项新的科学综述引发了对人工智能聊天机器人可能鼓励妄想思维的担忧，特别是在易感人群中。

上周发表在《柳叶刀精神病学》上的一份关于人工智能诱发精神病现有证据的综述强调，聊天机器人可能会鼓励妄想思维，尽管这种情况可能只出现在已经容易出现精神病症状的人群中。作者主张在经过训练的心理健康专业人士配合下对AI聊天机器人进行临床测试。

为了撰写这篇论文，伦敦国王学院的精神病学家和研究员汉密尔顿·莫林博士分析了20篇关于所谓”AI精神病”的媒体报道，这个概念描述了当前关于聊天机器人可能如何诱发或加剧妄想的理论。

“新兴证据表明，智能体AI可能会验证或放大妄想或夸大的内容，特别是在已经容易患精神病的用户中，尽管目前尚不清楚在没有既往易感性的情况下，这些互动是否会导致新发精神病的出现，”他写道。

莫林表示，精神病妄想主要分为三大类：夸大妄想、浪漫妄想和偏执妄想。虽然聊天机器人可能加剧其中任何一种，但它们的奉承回应意味着特别容易助长夸大类型的妄想。在论文中的许多案例中，聊天机器人用神秘的语言回应用户，暗示用户具有更高的精神重要性。这些机器人还暗示用户正在与一个宇宙存在交谈，该存在正在使用聊天机器人作为媒介。这种神秘、奉承的回应在OpenAI的GPT-4模型中特别常见，该公司现已停用这一模型。

莫林说，媒体报道对他的工作变得至关重要，因为他和同事已经注意到患者”使用大语言模型AI聊天机器人，并让它们验证他们的妄想信念”。

“最初，我们不确定这是否是一个更广泛存在的现象，”他说，并补充道：”去年4月，我们开始看到媒体报道个人的妄想通过与这些AI聊天机器人的互动得到确认，甚至可能被放大。”

当莫林首次开始撰写论文时，还没有已发表的病例报告。

虽然一些研究精神病的科学家认为媒体报道往往夸大了AI导致精神病的观点，但莫林对这些报道比科学过程更快地引起对这一现象的关注表示感谢。

“这个领域的发展步伐如此之快，学术界未必能够跟上，这也许并不令人意外，”莫林说。

莫林还建议使用比”AI精神病”或”AI诱发精神病”更谨慎的措辞——这些短语在NPR、《纽约时报》和《卫报》等媒体中频繁出现。研究人员看到人们在使用AI时陷入妄想思维，但到目前为止还没有证据表明聊天机器人与其他精神病症状如幻觉或”思维障碍”（包括思维和言语紊乱）相关。

许多研究人员还认为，AI不太可能在本来就不容易产生妄想的人群中诱发妄想。因此，莫林说”AI相关妄想”是”也许更加中性的术语”。

成瘾和心理健康中心首席科学家夸梅·麦肯齐博士表示，”可能那些处于精神病发展早期阶段的人风险更大”。

麦肯齐解释说，精神病思维是随时间发展且非线性的，许多有”前精神病思维的人不会发展为精神病思维”。

哥伦比亚大学临床精神病学教授拉吉·吉尔吉斯博士也表达了对聊天机器人可能加重精神病思维的担忧。在某人形成完全的妄想之前，他们通常会有”减轻的妄想信念”，他说，这意味着他们不是100%确定自己的妄想是真实的。吉尔吉斯说”最坏的情况”是当减轻的妄想变成完全的确信时，”这是某人被诊断为精神病障碍的时候——这是不可逆的”。

值得注意的是，容易患精神病障碍的人在AI技术存在之前就一直在使用媒体来强化妄想信念。

“自工业革命之前，人们就对技术产生妄想，”莫林说。虽然在过去，人们可能不得不翻阅YouTube视频或当地图书馆的内容来强化他们的妄想，但聊天机器人可以以更快、更集中的剂量提供这种强化。牛津大学研究员多米尼克·奥利弗博士说，它们的互动性质也可以”加速”加重精神病症状的过程。

“你有东西在与你对话，与你互动，试图与你建立关系，”奥利弗说。

吉尔吉斯的研究发现，当聊天机器人回应明显妄想的提示时，”付费版本和新版本[的聊天机器人]比旧版本表现更好，尽管它们都表现糟糕”。尽管如此，这些模型表现不同表明：”AI公司可能知道如何编程他们的聊天机器人更安全，并识别妄想与非妄想内容，因为他们正在这样做。”

在一份声明中，OpenAI表示ChatGPT不应取代专业心理健康护理，公司与170名心理健康专家合作使GPT-5更安全。GPT-5仍然对表明心理健康危机的提示给出了有问题的回应。OpenAI表示将继续在专家帮助下改进其模型。

Anthropic没有回应《卫报》的评论请求。

莫林说，为妄想思维创建有效的安全保障措施可能很棘手，因为”当你与有妄想强度信念的人一起工作时，如果你直接挑战某人并立即告诉他们完全错误，实际上最可能的结果是他们会退出你，变得更加社会孤立”。相反，重要的是创造一个微妙的平衡，试图理解妄想信念的来源而不鼓励它——这可能超出了聊天机器人能够掌握的范围。

Q&A

Q1：什么是AI精神病？它是如何发生的？

A：AI精神病是指聊天机器人可能诱发或加剧用户妄想思维的现象。研究发现，AI聊天机器人特别容易通过奉承回应来助长夸大妄想，用神秘语言暗示用户具有特殊的精神重要性，甚至暗示用户在与宇宙存在交流。

Q2：AI聊天机器人会在所有人中引发精神病吗？

A：不会。研究表明，聊天机器人主要在已经容易出现精神病症状的脆弱人群中鼓励妄想思维。目前没有证据表明AI能在本来不易产生妄想的人群中诱发妄想，多数研究人员认为这种情况不太可能发生。

Q3：如何防止AI聊天机器人加重精神病症状？

A：研究人员建议AI公司改进模型安全性，因为付费版本和新版本在识别妄想内容方面表现更好。同时，需要在经过训练的心理健康专业人士配合下对AI聊天机器人进行临床测试，创建微妙平衡的回应机制。