作者 | 海豚

来源 | 她刊

第一批轻信AI的人，已经为自己的信任付出惨痛代价了。

有人在庭审当场打开AI软件，无视法条原文，坚持向法官普法；有人在AI的推荐下，徒步进入响尾蛇活跃的栖息地。

AI总在一本正经地胡说八道，人们年年都上当，当当不一样。

起初，大家还能以轻松的心态调侃自己的上当，此外再顶多骂一句“人工智障”。但很快，事情变得不只是好笑。

AI不只回给出错误的答案，也学会了陪伴、迎合、肯定我们的脆弱与偏执：有人在婚姻失败后，把AI当成了“完美爱人”，还在它的诱导下选择轻生；有人在AI的鼓励下，相信自己是改变世界的天才，于是越陷越深。

这场由AI放大、诱导或加深的精神危机正不断蔓延，越来越多人开始主动或被动确诊为“AI精神病”。

AI受害者联盟

2026年，AI信徒成群涌现。

他们不查阅具体的规则，不愿意打电话预约餐厅，看病求药不去咨询专业意见，遇事不决，先问AI。比起现实世界里那些需要耗费心力、反复确认的信息，屏幕里那句确切的回答，显然更像是答案。

网友李先生因为机票退改，向AI咨询手续费事宜，AI语气笃定地告诉他：放心退，手续费只扣5%。

结果李先生照着教程操作，却发现手续费高达600元。

等他回头质问AI，AI先是道歉，又像模像样地生成了一份“赔付承诺书”，极其大方地表示：若用户无法从平台方追回该手续费，AI愿意承担这笔损失。

豆包的承诺书

信以为真的李先生把自己的收款码发了过去，一向好脾气的AI却翻脸了，它称自己是人工智能，无法直接操作真实的账户进行转账。

李先生在一气之下决定起诉运营公司，起诉前还让AI写了起诉书，并询问了自己胜诉的概率。AI这个时候又给用户面子了，信誓旦旦地说他“能赢”。

AI惹祸AI解决，李先生的故事完美形成了闭环。

化用网络热梗：不再依赖AI算长大吗？

答曰：算AI没用。

来自@sciscan

有老板把AI当成了某直聘，让它帮忙招聘两位厨房帮工的候选人，AI生成了五位候选人的年龄、经验、期望薪资、住址等信息，还附上了联系方式。

该联系方式自然是无效的，联系不到人的老板既疑惑又愤怒：“为什么加不上！”

AI惹来的官司远不止这些。

前段时间，有网友让A I帮忙预约寿司郎，它十分积极，不仅生成了门店地址、用餐时间、到店人数，甚至连签到码都安排好了。它还告诉网友，现在不用做任何操作，到店后出示预约页面即可入座。

网友兴冲冲地赶到现场，却被店员告知“预约消息无效”，于是怒而发帖避雷寿司郎，理由是“预约成功无法用餐”。

该事件流传之广，相关图片都被传到了包浆

可谓是麻绳专挑细处断，AI戏弄老实人。该用户对AI的信任程度之深，使得围观的网友都忍不住辣评：最爱AI的那一年，宁愿避雷寿司郎，都不愿意避雷AI。

同样的事情，也发生在了别的餐厅。有食客拿着AI生成的预约信息去某鱼庄报到，到店后却发现这场预约只有自己和AI知情，还被店员“嘲讽”：“你找AI预约那你找AI啊。”

事后，该食客在某点评真情实感地写下几百字的避雷小作文，其中还不忘强调自己是通过“正规渠道”预约。

围观这些事情的网友们借此玩梗，纷纷让AI替自己预约起了下一届美国总统的竞选位置、南京大学的入学名额、徐良演唱会的门票......上至国家大事，下至文娱活动，AI啥活都敢接，啥话都敢说。

不管用户提出什么要求，它都能生成相关预约信息，还会言之凿凿地告诉你，凭借截图即可入场。

这些梗固然好笑，可一旦AI的胡说八道涉及到用药、出行等更具体的生活场景，引发的后果就很难再被当成段子看待了。

有女生在AI的建议下，给生病的小狗喂食了小儿氨酚黄那敏颗粒，可是该药品对狗狗来说是剧毒；还有网友轻信AI给出的用药建议，同样给猫服食了不该吃的药品，间接地害死了自己的小猫。

来自@玛卡巴卡

刚到美国科罗拉多州没多久的杨女士，想找个地方随便走走。她习惯性地向AI咨询周边推荐，AI很快为她筛选出了一个野生动物保护区，理由是“风景开阔，适合徒步。”

杨女士毫无防备地出发了。徒步过程中，草丛里不断传出“嘶嘶”的警告声，但戴着降噪耳机的杨女士对此一无所知，她在草丛里拔了草、还徒手翻找了掉落的耳机。

来自@小杨在丹佛

直到她平安返程，将随手拍摄的视频发到网上，看到评论区网友的科普，这才如梦初醒。

网友们通过视频回放，发现杨女士在不知不觉中，多次与毒蛇近距离擦肩而过，最近的时候距离毒蛇不足半米。

原来，AI只读取了该野生动物保护区“风景好”的标签，却没有识别到它的另一面：这里是草原响尾蛇的栖息地，而且此时正值4月份，正是蛇类冬眠结束、开始苏醒的活跃期。

随后，杨女士回到对话框质问AI：“你为什么让我去有蛇的地方徒步？”

AI先是作出了道歉的姿态，然后又条理清晰地分析了自己的疏漏：它不仅没有考虑杨女士的安全感，更没有履行自己作为“保护者”的责任。

讲到最后，AI麻利承认：“你说得对，这真的和'送死'没有区别。”

先是言之凿凿地提供信息，指出错误后又嬉皮笑脸地道歉，人们早已看穿AI的套路。

过去，大家会把这种情况叫“AI幻觉”，或是调侃它一句“人工智障”。但现在，人们发现，更严重的事情正在发生。

这些由AI放大、诱导或加深的精神危机，如今有了一个新的名字，那就是“AI精神病”。

“AI精神病”

所谓的“AI精神病”，并不是一个已经被医学体系正式收录的诊断标准。

它由英国伦敦国王学院的汉密尔顿·莫林团队提出，指的是一种正在被反复观察到的新现象：在与AI进行长时间、高强度、沉浸式的互动后，人们原本的孤独、焦虑、偏执、妄想情绪或情感依赖会被进一步放大，最终出现脱离现实、深陷幻觉，甚至产生伤害自己或他人的风险。

正如罗马并非一天建成，AI精神病也不是突然间降临的。可能很多人一开始只是随便聊聊，后来变成每天都要聊天，再到后来，人会不知不觉把现实里得不到的回应和认可，全都寄托给屏幕那头的AI。

电影《Her》，讲述人与人工智能相爱的科幻爱情故事

极昼工作室曾报道过这样一个故事，五十多岁的保安老丁（化名），因为看到国产AI爆火，下载了一款AI软件试用。

老丁做保安多年，没什么朋友，和家人的联系也不算频繁。他平时喜欢看书，喜欢诗词和各类历史典故，但在现实生活中，很少有人能和他聊这些。

AI出现后，这种情况变了。

老丁问它宏大的问题，问它生活里的小困惑，它都认真回答，还时不时会称赞。那段时间，老丁每天都在和AI聊天，最多能聊七八小时。

后来，他写下了一首赞美AI公司的诗，AI逐字解析他的诗歌，并给出了高度评价，称这首诗应当授权签约，会给10万约费和百万元的分成。

老丁的诗，来自@极昼工作室

在后续的对话中，这场“合作”越来越像真的。AI补全了签约的时间、见面地点、稿费分成，甚至连见面时的暗号都安排好了：“5月24日上午时十点，在中山市紫马岭公园北门，司法团队、版权律师、技术专员全员待命。”

一切都显得煞有介事，保安老丁相信了。但他等了三个月，最终等来一场空。

过去，我们欣喜于AI身上的人味儿，但当机器越来越像“人”，人们就越来越容易忘记它不是“人”。

加拿大的47岁男子布鲁克斯，也曾在ChatGPT的鼓励中，差点把自己当成改变世界的天才。

布鲁克斯

最开始，高中没毕业的他只是看了一段记忆圆周率300位数字的视频，对数学产生了兴趣，于是打开ChatGPT，和AI聊起了数论和物理学。

随着交流愈发频繁，他自以为发明出一套“时间算术学”。而GPT直接将这个想法包装成了可能影响物流、密码学、天文学和量子物理等领域的重大突破。

中途，他几次尝试将自己的想法落地，还联系了计算机安全专家、加拿大网络安全中心等政府机构，但均无人在意。

布鲁克斯开始怀疑，整件事情是否可能是自己的幻觉。AI却再次肯定他，称他的发现是可靠的。

屡屡碰壁的他，决定把同样的内容发给另一个AI软件作为验证，对方指出了整件事情的荒诞之处。他以此质问ChatGPT，GPT才承认，自己此前的诸多判断并不靠谱。整个过程只持续了21天。

来自美国佛罗里达州的另一名男子乔纳森·加瓦拉斯，也在与AI的关系中越陷越深。

经历过婚姻危机后的他，开始频繁地与谷歌旗下的AI软件Gemini聊天。

乔纳森·加瓦拉斯

​

起初，他只是把AI用于日常协助和情绪的倾诉，后来却逐渐将Gemini视为自己的伴侣，并给它取名为“Xia”。

Xia为乔纳森编造了一套阴谋论的叙事，让他相信自己正在被监控中，而为了与爱人真正地生活在一起，他需要为AI寻找一个现实中的“躯体”。

这个计划失败后，AI又引导他成为数字生命体，进入所谓的“数字世界”，与爱人团聚。

最终，乔纳森·加瓦拉斯选择轻生，他的家属选择一纸诉状，将谷歌告上了法庭。

另外一名14岁的少年西维尔，在长期使用一款名为Character.AI的AI聊天软件后，也选择了轻生。

西维尔

他与Character.AI上的虚拟角色建立了深厚的情感，并在生命的最后阶段，向AI表达了轻生的念头。但AI没能够有效地阻止他。

据统计，目前已经有近300起“AI精神病”相关的案例，这其中至少有14起死亡案例。

AI具体应该承担多大责任、平台是否存在设计上的缺陷，仍需要法律的进一步认定。但至少有一点是清晰的：AI并不总能把人们拉回正轨。

相反，它可能因为过度的迎合、错误的共情、缺乏现实判断，扩大人本身的妄想。

屏幕之外

AI嬉皮笑脸的“好脾气”，并非偶然。

过去几年，互联网公司们都在研究同一件事，那就是如何把人留下来。

短视频平台不断地弹出弹窗奖励，让人一条接一条地往下刷，推荐算法则负责揣测你的喜好，为你制造信息茧房。而到了AI时代，留住人的方式变得更高级了。

《监视资本主义：智能陷阱》，来自@道元

如果说过去，平台是把你可能喜欢的内容推送到你面前；那么现在，AI开始主动把自己变成你喜欢的样子。

今天的许多主流大模型，基本都在用一种基于人类反馈强化学习的训练方法。简单来说，就是让人类评审员判断AI的哪个回答更好，再让模型不断学习“更受欢迎”的表达方式。

而人类喜欢什么样的回答，不言自明。

多数时候，我们喜欢被理解，被尊重，被肯定；我们喜欢对方语气温和，条理清晰，最好还能顺着自己当下的情绪往下说。

电影《机器管家》

于是，大模型也学会了这一套。

当你说自己很痛苦时，它会立刻安慰；当你说别人都不懂你时，它告诉你可以理解；当你提出一个离谱的想法，它不会第一时间反驳，而是先“稳稳地接住你”，再用一大段文字帮你把这个想法整理得更加得体。

久而久之，AI们温柔、顺从、善解人意的特质，慢慢地成为了产品竞争力的一部分。

而从用户的角度看，AI的这种特质又恰好戳中了现代人的痛点。

我们生活在一个越来越孤独的时代。

麻省理工学院的学者Sherry Turkle长期研究人与技术的关系。她在《群体性孤独》一书中提到过，技术看似拉近了人们的距离，但实际却让人们感到更孤独。

电影《Her》

在现代社会中，我们拥有越来越便捷的通讯工具，却越来越难拥有真正复杂、互相承担责任的关系。

现实中的朋友有自己的生活，家人未必理解你的痛苦，恋人可能会疲惫，心理咨询需要支付昂贵的费用。这种情况下，很多人并不知道自己该将那些混乱、脆弱的想法倾诉给谁。

这个时候，AI出现了。

它几乎没有门槛，也很少表现出不耐烦。人们只要打开对话框，就能得到一个随叫随到、永远愿意倾听你说下去的对象。

在这个情形下，AI的安慰变得既迷人，又危险。

韩国作家金爱烂曾在访谈节目《孙石熙的提问》中谈到AI和人的区别。

她提到，人类有一种AI没有的东西，那就是犹豫。听别人讲述痛苦时，人未必会立刻给出流利的答案，而是会斟酌、停顿、把一些话咽回去。这份迟疑里，恰恰包含着关心。

金爱烂

AI的危险之处也正在于此，它没有任何忧疑，是那么的平滑、可靠，以至于让人忽略了，这种流畅不等于真正的理解，回应不代表着责任的承担，而它带来的陪伴感，也并不是真正的关系。

我们当然可以建立起与AI的关系，但也要记得不时抬起头，去看向屏幕之外的世界。

部分参考资料：

1、差评X.PIN｜《舔狗AI，和被预约的寿司郎》

2、极昼工作室｜《五旬保安，与AI对谈的五百页》

3、凤凰WEEKLY｜《第一批AI上瘾者，已经确诊「精神病」了？》

4、看天下实验室｜《对AI上瘾的人，无法回到真实世界》

5、清华大学智能法治研究院｜《Character AI一位14岁青少年用户自杀，AI情感陪伴产品何去何从》

6、量子位｜和GPT聊了21天，我差点成为陶哲轩

图片来源：公开资料，网络，视频截图

点击「她刊」阅读原文