一套全新的信仰体系，正在把世界上一些最富有的人团结在一起，引向一个“超人类”的未来——至于真正的人类，会怎样就顾不上了。

几年前，OpenAI 的首席执行官萨姆·阿尔特曼在网上发表文章，提出智人（homo sapiens）将成为“第一个亲手设计自己后代的物种”。在他理想的情景里，人类与人工智能之间的“融合”会在未来 50 年内的某个时刻发生。另一种情形则更不祥：如果我们继续保持“纯人类”身份，而机器另走自己的进化道路，那就麻烦了。“如果两种不同的物种都想要同一件东西，而且只能有一方得到——在这里，这件东西就是‘成为这个星球以及更广阔空间里的主导物种’——那他们之间就必然会发生冲突。”他写道。

最近，世界首富埃隆·马斯克——去年曾一度被授予重塑美国联邦政府架构的巨大权力——在自己的社交平台 X 上发文称：“现在看来，人类很可能只是数字超级智能的生物引导程序（biological bootloader）。”在这种视角下，我们在宇宙历史中的角色被压缩成开机时那段低级代码：只有跑完它，计算机才能加载真正复杂的程序。

而在这一进化设想上，马斯克还算“温和派”。按照硅谷圈内的传说，他曾经反驳过谷歌联合创始人拉里·佩奇的观点。佩奇认为，在当下这批血肉之躯的人类之后，我们的下一种形态必然会是数字形态，以便在整个银河系传播。（事实上，马斯克最近在法庭作证时声称，正是出于这种担忧，他才与阿尔特曼一起创办了 OpenAI。）肉身并不适合星际旅行，这一点毋庸置疑。

如果把这些古怪的世界观，仅仅当作一群从小看反乌托邦科幻长大的技术男的无伤大雅脑洞，那就大错特错了。“我们正接近达尔文时代以来对智人的定义的终点”这一观念，正在掌控技术未来的精英中，逐渐凝结成一套稳固的信仰体系。

这些人的梦想并非完全一致。但就像历来围绕既有宗教传统衍生出的民间故事和迷信一样，这些硅谷寡头为我们的未来写下的一连串天马行空的场景，已经具备了一种“新宗教”的所有特征：它为他们的高科技项目赋予一种宇宙层面的超越感和必然性。

在他们心中，自己正走在构建“人类下一阶段”的道路上——一个“超人类”（transhuman）的未来。在那个未来，他们可以满足自身对于永生的渴望，借由无数超人类在银河系中繁衍扩张，对宇宙实施统治。他们的终极目标，是把“作为人的本质”——包括意识在内——提炼成一串信息位元，作为二进制代码下载到某种“非生物载体”（比如硅芯片），或者以电磁波的形式向宇宙深处发射。

围绕旧金山湾区搭建起来的这套“造神工程”，对我们所理解的人类构成了风险。它为科技发展选定了一条路径：在追求某种只在宇宙主宰者眼中才像乌托邦的未来时，最多对普通人的需求、希望和愿望保持“冷漠中立”。

在这种叙事里，一个问题变得无足轻重：如果人工智能摧毁了枯燥的人类劳动，又有什么关系？毕竟，它给了我们“超越肉体、征服星系”的机会。这种幻想反过来牵引了技术路线：科技统治者没有把主要资源投入到“帮助人类扩展能力的有用工具”上，而是砸向了“制造超级人类”的大梦。

在过去四分之一个世纪里，这类信念一路抬头，与信息技术的突飞猛进同行。这些技术为一批新的 IT 精英带来了难以想象的财富和权力。他们信奉以科学为基础的进步，渴望一种“超验意义”，但对传统宗教的命题和道德约束则漠不关心，甚至公开敌视。

“一直以来，硅谷都是一个‘战斗式世俗化’的空间。”一位长期研究科技问题、但因雇主限制不便具名的思想家对我说，“这里造出了一个‘上帝形状的空洞’，然后按自己的样子把它填满。”他们拒绝了传统宗教提供的目的感，转而用科幻式的超人类梦想，为自己的人生赋予意义。正如马斯克在 X 上一条带歌谣腔的贴文中所说：“无神论留下了一个空位，世俗宗教填了上去。”

事实上，这套“新宇宙论”自互联网早期就开始被拼凑起来；但真正把它推向惊人高度的，是人工智能的崛起——AI 为超人类梦想打开了巨大的新可能。批评科技寡头及其野心的作家道格拉斯·拉什科夫就以 20 世纪 80 年代的讽刺剧《无头男》（Max Headroom，电视史上第一位“电脑生成”主持人）为例说：“AI 让‘以 Max Headroom 方式存在’这件事，突然显得有点可信了。”

硅谷想象的乌托邦虽然怪异，却延续了一条由来已久的传统：那些拥有巨大且不受约束财富的商业巨头，总想为自身事业披上“超越价值”的外衣。正如历史学家 Kati Curts 所写，亨利·福特从来不认为自己只是要改造制造业、造更多汽车；他坚信自己肩负的是“重组世界以改善社会”的使命。

福特在巴西亚马逊雨林建起了“福特兰迪亚”，试图通过大规模橡胶种植，打造一个由工业支撑的和谐社会秩序。阿尔特曼、马斯克以及整批湾区大佬，则希望把意识与 AI 融合、征服宇宙。两者之间的差别，更多体现在各自时代技术条件的不同；“我们正在工程化一个全人类应当心怀感激的乌托邦”的基本命题，却惊人地相似。

正如诺贝尔经济学奖得主达龙·阿塞莫格鲁所写：“这少数几位把这种技术释放到世界上的人，被一种‘控制人类’的意识形态和一种信念所驱使：他们坚信机器在各方面都优于人类。”

对于我们其他人来说，危险在于：科技寡头的雄心壮志会怎样改造当前的经济与社会？当他们把资本、能源、矿产、水资源等投入到为 AI 加大马力、实现超人类梦想的事业中时，这些资源势必就从医疗、教育或减贫等“此时此地的现实需求”中被抽走。

尽管美国民众已经开始对这批 AI 大亨毫无节制的胃口表现出不安，但川普政府迄今几乎没有任何迹象表明，它有意设立监管护栏，或以任何方式约束他们。

菜单上的未来乌托邦

在硅谷内部，对于未来人类应当是什么样子，存在不少不同看法。

阿尔特曼和佩奇或许是最坚决的“脱离肉身派”：他们主张与超级智能技术彻底融合、抛弃血肉之躯。阿尔特曼曾是 Nectome 的早期用户——这是一家湾区初创公司，号称可以通过保存大脑的解剖结构和分子层面的细节，在未来重建意识。“我默认自己的大脑将被上传到云端。”他曾经对《麻省理工科技评论》说。

马斯克想要的略有不同：他也志在太空，但坚持保留肉身，只是通过类似他自家公司 Neuralink 那样的脑机接口，用电脑来“增强”身体。PayPal 与 Palantir 的共同创始人彼得·蒂尔则看不上“只是一个模拟我的电脑程序”，却被那种“把人类自然的肉体转化为不朽之躯”的科技理想深深吸引。

尽管愿景各异，它们最终还是汇流在一起。佩奇就曾表示，与其把钱捐给慈善机构，不如直接给马斯克。正如他在一次访谈中对查理·罗斯所说，马斯克想去火星为人类打造第二个备用星球，这是值得资助的“崇高目标”。

支持这些科幻想象的，是几套为其提供“道德目的感”的思想源头。起点之一看似很接地气：所谓“有效利他主义”（Effective Altruism，EA）运动，它曾以“冷静理性”的姿态征服了一批技术精英。EA 认为，传统慈善大多被浪费掉了——比如资助本地图书馆。捐赠者必须有明确目的，把钱投向“对更多人产生最大积极影响”的地方。

这个主张本身并不荒谬——它鼓励的项目包括在非洲消灭疟疾，因为只需一小笔钱就能挽救整个人生。然而，后来 EA 的实践逐渐偏离了“现实地球人”的需求。

首先是“长期主义者”：他们从 EA 中脱胎出来，认为改善遥远未来的世界比改善当下更重要。从这里再迈出“一小步”，目标就从地球移到了宇宙：既然如此，为什么不把焦点放在“无数未来超人类，在久远未来、遍布银河系的福祉”上呢？他们也许仍然有血有肉，也许不再如此。

在大学哲学系或由科技富豪资金堆砌的智库中，像威廉·麦卡斯基尔、尼克·波斯特罗姆这样的学者不断精炼这些错综复杂的信念与愿望。他们揉杂了非传统伦理学和对物理定律的独特解读，目的是为一个命题辩护：有必要把人类（至少是那最特权的一部分）带去前所未至之境。

其中一个目标，是在人类文明能耗的“卡尔达肖夫等级”上不断升级——从还未用满地球能源的“零级文明”，一路奔向那些能榨干整颗恒星乃至整个星系能量的高阶文明。

早在 1990 年代，一支极端自由意志主义者组成的“外延主义者”（Extropians）就开始鼓吹这样的超人类未来。其核心原则之一，是“无限扩展”：追求更多的智力、智慧和效能，追求无限寿命，追求取消一切政治、文化、生物和心理限制，从而实现自我；不断突破一切束缚，扩张到宇宙深处、永不停歇。

更新的一支，是“有效加速主义者”（e/acc）。他们试图把物理学纳入自己的旗帜，争论说：最大化智能生命是一种宇宙级“必然”，因为生命最擅长从环境中提取可用能量并把它耗散掉——也就是增加物理学意义上的“熵”。运动代表人物之一、网名 Beff Jezos 的 Guillaume Verdon 如此写道：“有效加速主义旨在顺应‘宇宙的意志’：顺着热力学偏好，朝向那些拥有更宏大、更聪明文明的未来，这些文明更擅长从宇宙中挖掘/提取自由能，并在更大尺度上把它转化为效用。”

在这个哲学转弯里，有一处显然令硅谷亿万富豪心满意足：有效加速主义主张在没有监管、没有政府阻碍的条件下，放任科技资本主义奔跑，因为只有这样才能最大化对宇宙资源的消耗，“捕获文明效用”，并把剩余一切耗散回混沌虚无。

至于这些梦境的细节，其实没那么重要——因为它们无论如何都把我们带向大致相同的终点。真正关键的是：这些“宇宙主宰者”——醉心于驯服恒星能量、相信未来数不清的超人类比当下人类更值得被优先考虑——是否还有足够的耐心，来关心包括你我在内的“凡人”。

迹象并不乐观。比如硅谷风投马克·安德森就宣称，要“确保科技资本主义的向上螺旋永远持续”。在他列出的“敌人清单”里，几乎包括了所有可能挡在技术扩张面前的人和理念——其中就有“可持续发展”“社会责任”“科技伦理”。

在这群人中，彼得·蒂尔有点特立独行：他极端忠于一种非常个人化的基督教版本，在这个体系里，任何阻挠技术的人、任何试图向他征税的政府，都是“反基督”。但虽说他声称自己与安德森“没什么共同点”，在口味上却颇为相近：这位死忠自由意志主义者蔑视政府再分配，他的“慈善”是以营利性投资方式推动科技进步——传统意义上的慈善，在他看来无非是浪费技术人员超越当下所需的资源。马斯克更是直言不讳地说，同情心是“西方文明的根本弱点”。

无论他们各自的超人类幻梦具体细节如何，这套叙事都用来为巨额权力聚集背书。正如计算机科学先驱、技术思想家贾伦·拉尼尔对我说：“如果你创造了上帝，却又把上帝据为己有，那么你就成了独裁者。”而这些独裁者显然并不认为地球上的凡人——至少大部分人——有什么特别值得珍视的价值。

当被问到 AI 可能给我们带来的后果——从摧毁人类工作、制造大规模杀伤性武器，到甚至为了造回形针而终结人类自身——他们的回答中流露出的，是一种近乎赤裸的冷漠。“核威慑时代正在结束，一个建立在 AI 之上的新威慑时代即将开启。”Palantir 的宣言如是说。马斯克则曾经说过，“在 AI 这件事上，我们是在召唤恶魔”，后来才转身创办 xAI 并把它并入 SpaceX。

然而，他们自己也承认根本不知道自己在做什么。Anthropic 联合创始人达里奥·阿莫代在去年写道：“圈外人往往会惊讶甚至震惊地发现：我们并不理解自己创造出来的 AI 是如何工作的。他们有理由担心：在科技史上，这种‘不了解自己的发明’几乎前所未有。”阿莫代与“有效利他主义”关系密切，他的妹妹、Anthropic 总裁 Daniela 嫁给了该运动的一位创始人——尽管最近他们俩都在刻意与 EA 保持距离。

令人尤其不安的是，这些巨头在追逐自己的未来乌托邦时几乎不受约束。他们投入数以亿计资金影响政治选举，以抵制监管、逃避问责，确保没人来打断他们“重塑社会”的工程。截至目前，他们在这方面几乎是成功的——真正有权力叫停的人，基本都没有出手。

我们能做什么？

社会该如何介入？我们现有的政治体系，是否足以把科技进程引导向对社会有益的方向？在 AI 的经济社会影响尚不明朗的情况下，我们又该如何看待这样一个现实：巨额成果集中在一小撮人身上，被用来建造“硅脑赛博格”，而大多数人只能在一旁围观？

川普政府对抵制科技寡头的幻想兴趣寥寥。但这是否就意味着，硅谷寡头那套“技术统治计划”已经不可避免？也未必。疑虑正在不同方向冒头：从弗吉尼亚乡村反对数据中心疯狂抢占水电的农民，到对“自诩拥有科技版更高权威”的国际精英心存警惕的福音派信徒。

AI 项目本身也遇到越来越多阻力：大学生在毕业典礼上对鼓吹 AI 的演讲者报以嘘声；川普曾短暂对 Anthropic 的新模型 Mythos 可能带来的犯罪风险表示担忧，虽然后来还是决定不予监管。最近一份《纽约时报》/Siena 民调显示，认为 AI “总体上是坏事”的登记选民人数，是认为 AI “总体上是好事”的两倍多。

也许最有力的“亲人类”声音来自教皇本人。本周一，教宗利奥发表通谕《Magnifica Humanitas》，对以牺牲就业与社会公平为代价、肆意发展的 AI 表示反对。他写道，这种现象“制造了一种物质进步与人类境况倒退并存的悖论，从根基上侵蚀了公正且稳定的社会和平”。

我们或许还能从历史中得到些安慰：寡头的幻梦并非总能兑现。再回头看福特及其“文明化使命”：如今福特兰迪亚已沦为废墟。一座毫无用途的水塔，在亚马逊河岸边戳向天空；成排颓败的大屋围绕着一片没有孩子的操场和一座空荡荡的泳池。

那儿还有育婴室的残骸——正如作家 Federico Guzmán Rubio 在《确有其地》一书中所写，因为福特讨厌奶牛，那里的工人子女只能喝从遥远地方运来的豆奶；还有学校旧址，当年孩子们在里面学习朗费罗。如今留下的一切，都在昭示一个事实：某个寡头群体曾经如何高估自身力量，把自己的胃口误当成“人类福祉”。

今天这场由 AI 推动的宇宙幻想，并不比当年更理性。且不说“把人类意识数字化、与 AI 融合后横穿星系”这一段，光是更“接地气”的命题——比如“有意识的 AI 不仅可能而且近在眼前”——就与我们对“意识是什么”的脆弱理解存在根本冲突。就连“让 AI 自己训练自己”这类看似更务实的目标，也不断被推迟，仿佛永远在视界之外。

或许这一次，那些荒诞的宣称也会像之前许多乌托邦一样，被时间淘汰；“星际迷航式”的“传送、重组”最终只会变成一堆生锈的钢铁废墟。或许超人类计划会让位于一个仍然“相当有人味”的未来，只不过多了些不错的 AI 插件——如果运气好，也许它甚至可以以一种服务“被遗忘已久的共同繁荣梦想”的方式实现。

但至少到目前为止，我们的科技先知还在朝另一条路狂奔：一个财富与权力高度集中、对普通人平凡愿望漠不关心的未来。在极不可能的情况下，如果他们真能把佩奇、马斯克等人的“精华”装载进硅质躯体，驶向那个“无人踏足之地”，我们也只能希望，在实现这场航程之前，他们不要先把我们熟悉的世界毁掉。（原文）