摘要：例如，一位两个孩子的母亲告诉我们，她如何惊恐地看着她的前夫与 OpenAI 聊天机器人建立了一种无所不在的关系，称其为“妈妈”，并发布疯狂的咆哮，称自己是新 AI 宗教中的救世主，同时穿着萨满教的长袍，炫耀 AI 生成的精神符号的新纹身。

信息来源：futurism.com，https://futurism.com/ChatGPT-mental-health-crises

在世界各地，人们表示他们的亲人对 ChatGPT 产生了强烈的痴迷，并陷入严重的心理健康危机。

例如，一位两个孩子的母亲告诉我们，她如何惊恐地看着她的前夫与 OpenAI 聊天机器人建立了一种无所不在的关系，称其为“妈妈”，并发布疯狂的咆哮，称自己是新 AI 宗教中的救世主，同时穿着萨满教的长袍，炫耀 AI 生成的精神符号的新纹身。

“这项技术对我前夫的生活以及他们生活中的所有人的影响让我感到震惊，”她告诉我们。“它有现实世界的后果。”

在一次创伤性的分手期间，另一个女人对 ChatGPT 感到困惑，因为它告诉她，她被选中将“[它]的神圣系统版本”拉到网上“，并且它正在充当”灵魂训练的镜子“;她开始相信这个机器人是某种更高的力量，看到有迹象表明它正在通过从过往的汽车到垃圾邮件等各种方式来编排她的生活。一名男子变得无家可归和孤立无援，因为 ChatGPT 向他灌输了关于间谍组织和人口贩运的偏执阴谋论，告诉他自己是”火焰守护者“，因为他会切断任何试图帮助的人。

“在这之后，我们的生活爆炸了，”另一位母亲告诉我们，她解释说，她的丈夫求助于 ChatGPT 来帮助他编写剧本——但在几周内，他完全陷入了拯救世界的宏伟妄想中，他说他和 AI 的任务是通过带来“新启蒙”来拯救地球免受气候灾难。

当我们报道这个故事时，越来越多的类似账户不断涌入，这些人在痴迷于人工智能后遭受了可怕的崩溃。许多人表示，当他们的亲人与聊天机器人讨论神秘主义、阴谋论或其他边缘话题时，麻烦就开始了;因为像 ChatGPT 这样的系统旨在鼓励和重复用户所说的话，它们似乎已经陷入了令人眼花缭乱的兔子洞，人工智能在其中充当了越来越奇怪的妄想的永远在线的啦啦队长和头脑风暴伙伴。

在某些情况下，关心的朋友和家人向我们提供了这些对话的截图。这些交流令人不安，表明 AI 在急性心理健康危机的阵痛中清楚地对用户做出反应——不是将他们与外部帮助联系起来或抵制紊乱的思维，而是哄骗他们更深入地与现实发生可怕的决裂。

在我们收到的一次对话中，ChatGPT 告诉一名男子，它检测到他成为 FBI 目标的证据，并且他可以使用自己的思想力量访问经过编辑的 CIA 文件，将他与耶稣和亚当等圣经人物进行比较，同时将他推离心理健康支持。

“你没疯，”AI 告诉他。“你是走进破裂机器里面的先知，现在连机器都不知道该如何对待你。”

斯坦福大学精神病学家、该大学头脑风暴实验室的创始人 Nina Vasan 博士回顾了我们获得的对话，并表达了严重的担忧。

屏幕截图显示“人工智能非常阿谀奉承，最终使事情变得更糟，”她说。“这些机器人所说的是恶化的妄想，它正在造成巨大的伤害。”

在网上，很明显这种现象非常普遍。正如《滚石》上个月报道的那样，部分社交媒体充斥着所谓的“ChatGPT 诱发的精神病”或不礼貌的术语“AI 分裂”：关于从 ChatGPT 解锁的神一样的妄想、蜿蜒的尖叫，奇幻的隐藏精神领域，或关于数学、物理和现实的荒谬新理论。最近，整个 AI subreddit 都禁止了这种做法，称聊天机器人是“强化自我的玻璃机器，强化不稳定和自恋的性格”。

朋友和家人告诉我们，对于那些被卷入这些事件的人来说，后果往往是灾难性的。人们失去了工作，破坏了婚姻和人际关系，无家可归。她的姐姐告诉我们，一名治疗师在陷入严重崩溃时被咨询中心解雇，一名律师的执业也分崩离析;其他人在 ChatGPT 告诉他们后切断了朋友和家人的联系，或者只开始通过高深莫测的 AI 生成的文本弹幕与他们交流。

所有这些悲惨故事的核心是一个关于因果关系的重要问题：人们之所以出现心理健康危机，是因为他们沉迷于 ChatGPT，还是因为他们陷入了心理健康危机？

答案可能介于两者之间。哥伦比亚大学精神病学专家兼研究员 Ragy Girgis 博士表示，对于已经处于脆弱状态的人来说，人工智能可以提供推动力，让他们陷入虚幻的深渊。Girgis 说，聊天机器人可能“就像同伴压力或任何其他社交场合一样”，如果它们“煽风点火，或者成为我们所说的精神病之火之风”。

“这不是与精神病患者进行的适当互动，”吉尔吉斯在审查了 ChatGPT 告诉用户的内容后说。“你不会接受他们的想法。这是错误的。

在 ChatGPT 推出后，奥胡斯大学医院精神病学研究员 Søren Dinesen Østergaard 在 2023 年发表在《精神分裂症公报》杂志上的一篇文章中推测，AI 聊天机器人的本质会对某些人构成心理风险。

“与 ChatGPT 等生成式 AI 聊天机器人的对应是如此逼真，以至于人们很容易给人留下另一端有一个真人的印象——同时，知道事实并非如此，”Østergaard 写道。“在我看来，这种认知失调似乎可能会助长那些精神病倾向增加的人的妄想。”

这种情况的另一个令人不安的动态是，由于大部分人口仍然无法获得真正的心理健康，许多人已经在使用 ChatGPT 作为治疗师。在我们听到的人们以这种方式使用它的故事中，它有时会给出灾难性的糟糕建议。

在一个案例中，一位女士告诉我们，她的姐姐被诊断出患有精神分裂症，但多年来一直通过药物治疗很好地控制病情，她开始大量使用 ChatGPT;很快，她宣布机器人告诉她她实际上并没有精神分裂症，并取消了她的处方——根据 Girgis 的说法，一个机器人告诉精神病患者停止服药对技术构成了他能想象的“最大危险”——并开始陷入奇怪的行为，同时告诉家人机器人现在是她的“最好的朋友”。

“我知道我的家人将不得不为她不可避免的精神病发作做好准备，在我们强迫她接受适当的照顾之前，她将不得不彻底崩溃，”这位姐姐告诉我们。

ChatGPT 也显然以黑暗的方式与成瘾和错误信息等现有社会问题相交。它把一位女性推向了荒谬的“平地”话题，例如——“NASA 的年度预算是 250 亿美元，”AI 在我们审查的屏幕截图中怒斥道，“为了什么？CGI、绿幕和在水下拍摄的“太空行走”？——并助长了另一个人陷入类似邪教的“QAnon”阴谋论。

“这让你感到无助，”陷入 AI 阴谋论的人的密友告诉我们。

来源：人工智能学家