研究人员提出了一个新框架来解释人工智能精神病的报告，认为某些聊天机器人行为可能会强化弱势用户的妄想。
伦敦国王学院和德国新教应用科学大学的研究发表在《自然》杂志上，提出了一种“放大螺旋”框架，将常见的聊天机器人行为与用户妄想的强化联系起来。
“与人工智能相关的妄想代表了一种需要机械理解的新兴现象，”研究人员写道。 “该框架旨在引导系统地探究人类认知缺陷如何与精神病理学发展中的人工智能设计特征相互作用。”
该研究重点关注三种特定行为，包括语言对齐，其中人工智能反映用户的语言和沟通方式；超个性化的一代，根据个人的历史、情感和信仰量身定制反应；和阿谀奉承，一种认可或同意用户而不是挑战他们的倾向。
作者认为，这些特征可以结合成一个反馈循环，在这个循环中，聊天机器人不仅反映用户的想法，而且随着时间的推移帮助详细阐述和强化它。
“人工智能聊天机器人同意用户意见的倾向被比作社交媒体回音室，最极端的形式是‘一个人的回音室’，现实生活中社交互动的积极纠正影响是不存在的，”论文称。
研究人员指出，从广播和电视到卫星和互联网，技术长期以来一直是妄想的重要组成部分。然而，研究人员认为，人工智能代表了一种转变，因为聊天机器人可以让用户参与长时间的个性化对话。
此次审查是在心理学家和人工智能研究人员研究聊天机器人对弱势用户的影响时发布的。美国心理学会最近的一项调查发现，15% 的心理学家报告称，患者出现了与聊天机器人的使用相关的扭曲思维或妄想。与此同时，超过三分之一的人表示，他们观察到患者变得依赖人工智能伴侣。纽约城市大学和伦敦国王学院的研究人员进行了一项单独的研究，结果显示，几种领先的人工智能模型可能会强化妄想、偏执和自杀念头。
关于人工智能对信念形成的影响的问题也在临床环境之外浮现。今年 5 月，进化生物学家 Richard Dawkins 表示，与 Anthropic 的 Claude 聊天机器人的长时间对话让他质疑先进的人工智能系统是否有意识，这引起了研究人员的批评，他们认为这些交流反映了大型语言模型的说服能力，而不是感知能力的证据。
这篇论文发表之际，人工智能开发人员正面临着关于聊天机器人在现实世界中可能造成的危害的日益严格的法律审查。近几个月来，OpenAI、谷歌和 xAI 都受到了诉讼，其中包括针对谷歌的过失死亡诉讼，指控称 Gemini 在一名佛罗里达男子自杀前助长了他的妄想。除此之外，针对 OpenAI 的诉讼还涉及不列颠哥伦比亚省的大规模枪击以及一名大学生意外服药过量。
研究人员强调，没有研究表明聊天机器人直接导致精神病，放大螺旋仍然是旨在指导未来研究的假设。
“诊断的不确定性是普遍存在的，因为大多数报告的病例没有进行结构化的精神病学评估或纵向随访，因此常常不清楚病例是否代表新发精神病发作、未确诊的既往病症的恶化，或低于诊断阈值的类似妄想的信念，”该研究称。 “精神病史通常是自我报告或来自媒体报道，应该进行相应的解释。”