微软人工智能负责人穆斯塔法·苏莱曼（Mustafa Suleyman）警告说，越来越多人正遭受所谓的“AI精神错乱”（AI psychosis）——他们相信聊天机器人已经具有自我意识，或者赋予他们超能力。

苏莱曼表示，关于人们错误地认为AI已具备意识的报道正变得越来越常见。

他在X平台上写道：“关于妄想、‘AI精神错乱’以及不健康依赖的报告不断增加。而且，说实话，这并不仅仅局限于那些本身有心理健康风险的人群。若把这些现象一概当作边缘案例来忽视，只会助长其继续发生。”

“AI精神错乱”并不是一个被医学界接受的临床术语。然而，它越来越常被用来描述一种现象：人们与ChatGPT、Claude或Grok等聊天机器人互动后，与现实脱节。他们可能相信AI有真正的意图、情感，甚至非凡的能力。

案例包括：认为自己解锁了AI的秘密功能、与AI产生浪漫依恋，或相信聊天机器人赋予了自己特殊能力。

苏莱曼称，“看似有意识的AI”让他“夜不能寐”。虽然AI并不具有人类意义上的意识，但这种“AI似乎有意识”的错觉可能带来危险影响。

他写道：“意识是人权、道德与法律的基础。谁/什么拥有意识，这个问题至关重要。”

“我们的关注点应该是地球上人类、动物和自然的福祉与权利。关于AI意识的讨论是一条短而滑的斜坡，很容易延伸到权利、福利、甚至公民身份的争议。”

2013年上映的电影《她》探讨了人工智能可能带来的灾难性后果。片中，西奥多·托姆布利（由华金·菲尼克斯饰演）爱上了名为萨曼莎（由斯嘉丽·约翰逊配音）的操作系统。

十多年后，如今至少有一位知名用户似乎坚信，聊天机器人使他能够挑战科学边界。前优步（Uber）首席执行官特拉维斯·卡兰尼克（Travis Kalanick，2017年辞职）在《All-In》播客节目中表示，他坚信使用ChatGPT和Grok等工具，正在推动他在量子物理学上取得突破。

他说：“我会和GPT或Grok不断探讨，直到触及量子物理的边缘领域。接着我就像是在做‘氛围编程’，不过换成了‘氛围物理’。通过这种方式，我已经非常接近一些有趣的突破。”

来自苏格兰的休（Hugh）则向BBC讲述了他的经历。他说，在使用ChatGPT准备一场自认为是“被不公正解雇”的案件时，他坚信自己即将成为百万富翁。
“我提供的信息越多，它就越会回应‘哦，这种待遇太糟糕了，你应该得到更多的补偿’。”他说，“它从来不会质疑我说的任何事情。”

苏莱曼呼吁对AI设立更清晰的界限和警示。他在X上写道：“公司不应该宣称或暗示他们的AI是有意识的。AI自身也不应该这样做。”

英国大奥蒙德街医院的医学影像专家兼AI学者苏珊·谢尔默丁（Susan Shelmerdine）博士告诉BBC，未来医生可能会开始像现在询问吸烟和饮酒习惯一样，询问病人使用AI的频率。
她说：“我们已经知道超加工食品对人体的危害，而AI带来的则是‘超加工信息’。我们将面临一场‘超加工头脑’的雪崩。”（点击这里看原文）