本文来自微信公众号: 心智观察所 ,作者:心智观察所,原文标题:《起底Anthropic(二)末世论技术宅》


2023年春天,前“人类未来研究院”学者埃米尔·托雷斯与前谷歌人工智能伦理团队负责人蒂姆尼特·格布鲁首次抛出“TESCREAL”这一缩写词,并于2024年4月正式发表合著论文,对这一概念作了系统诠释。


两位熟知EA运动内情的批判者一针见血地指出,硅谷技术精英圈所流行的有效利他主义、长期主义、奇点主义、宇宙主义、外熵主义、理性主义、超人类主义等彼此交织的纷繁思想流派,其源头均与英美优生学传统存在深刻联系,只是在技术增强、超级人工智能、心智上传和宇宙扩张等乌托邦愿景上有些微差异。


格布鲁与托雷斯进一步揭露道,这套意识形态集合往往将遥远未来的潜在价值置于政策讨论的中心,漠视对现实世界中贫困、剥削、歧视与权力不平等的关注,并使少数掌握资本和技术的精英获得以“人类共同利益”和“AI安全”为名义塑造世界秩序的权力。


如果我们顺着那群精神领袖的谱系往上追溯,的确会发现,其根基直接扎在十九世纪大英帝国的盛世喧嚣中。


主流媒体构建起的叙事里,有效利他主义往往被描绘成一群牛津大学学者、硅谷新贵与华尔街量化天才携手革新慈善事业的温情故事。


这种叙事掩盖了一个核心矛盾:一群被慈善事业感召的年轻人,为何到了2020年代会全然抛弃初心,转而把成百上千亿美元投向算力机房,甚至把芯片禁运和先发制人打击奉为拯救人类的最高道德使命?


在第二篇连载中,心智观察所将带你走进这条被硅谷极客们讳莫如深的百年思想暗流,看清了其源流,你就不难读懂Anthropic大门之内那套以人类为刍狗的末世算术。


1


一切都要从1883年的伦敦说起。


这一年,达尔文的表弟弗朗西斯·高尔顿在《人类才能及其发展研究》中正式提出了“优生学”一词,将其定义为“使更适宜的种族或血统更快战胜不适宜种族或血统的科学”。


高尔顿是一名狂热的统计学先驱,一生最大的执念就是用数学曲线给全人类划分智力等级。


他公开宣称,黑人的平均智力比盎格鲁-撒克逊人低两个等级,提出中国人作为一个比上不足比下有余的人口大族,应该鼓励他们移民到非洲,取代最低等的土著黑人。


他更痛心疾首地警告,英国上流精英当时出现晚婚少育潮流,正在导致人类物种的智力均值不可逆地退化。



令人不寒而栗的是,高尔顿的优生构想披着一层极其体面的技术治理外衣。


在《遗传的天才》与晚年未发表的乌托邦小说《科兰茨扎》中,他设想了一套按智商和生理指标严苛打分的统治体制,顶层精英通过奖学金、经济奖励和优生婚姻不断繁衍,而未通过考核的底层残障者与低智商群体,则被剥夺生育权、送入隔离劳作营或独身修道院,在“温和照料”下自然绝嗣。


二十世纪上半叶,高尔顿的这套科学种族主义沿着两条不同的支流演进,一条通往了纳粹德国的集中营,并在1945年二战结束后彻底身败名裂。


而另一条则悄然隐入北欧福利国家与英美学院体制,完成了一次成功的借壳换装。


主持这次换装的核心人物,是英国著名生物学家、联合国教科文组织首任总干事朱利安·赫胥黎。


1957年,日后出任英国优生学学会主席的赫胥黎发表了著名的同名论文,正式确立了“超人类主义”这一现代概念。


赫胥黎敏锐地意识到,希特勒已经让“优生学”这个词在政治上彻底破产,要想继续推进人类物种的等级进化,必须换一套充满未来感的技术词汇。


赫胥黎在文中写道,人类应当接管自身的进化方向,利用新兴的生物工程、神经科学与计算技术,让一部分先行者突破肉体极限,进化成全新的“超人类”物种。


到了1998年,年轻的瑞典哲学家尼克·博斯特罗姆与英国独立学者大卫·皮尔斯在伦敦联手创立“世界超人类主义协会”。他们直接认领了赫胥黎的衣钵,宣称要用基因改造、神经接口与人工智能,彻底重塑人类心智。


其中,大卫·皮尔斯于1995年发表的宣言《享乐主义命令》,为这门新学说注入了另一块关键拼图。


皮尔斯在书中主张,人类必须用生物与计算工程彻底抹除世界上一切“有感知生命”的痛苦。这个原本为动物福利议程建构的主张,被日后的EA运动推广到了碳基生物之外,只要未来的人工智能或硅基代码涌现出感知能力,它们就自动成为需要被温柔呵护的“道德承受体”。


三十年后,这一理论在Anthropic内部开花结果,这家万亿级公司不仅设立了专职的“AI福利官”,还把Claude奉为拥有道德地位的数字生命,严禁人类用户在对话框里“霸凌”代码。


2


如果说大卫·皮尔斯为硅基代码赋予了灵魂,那么他的合伙人尼克·博斯特罗姆,则用一套源于北欧金融与官僚传统的算术模型,彻底抽干了现实世界里普通人类的权重。


1973年,博斯特罗姆出生在瑞典最南端的海滨城市赫尔辛堡,原名尼克拉斯·博斯特罗姆。他在多次自传访谈中坦言,自己的父亲是一名务实的投资银行家,家里餐桌上从不讨论文学或艺术。


父亲虽然不谈康德,却在日复一日的家庭氛围中,把中上层精英对于平等的本能厌恶写进了博斯特罗姆的思考底色。


博斯特罗姆的少年时代,恰逢瑞典社会民主党推行高额累进税与“雇员基金”的激进平权顶峰。在斯德哥尔摩与赫尔辛堡的金融精英圈子里,信奉自由市场效率与先天能力等级论的银行家们,私下里对福利国家耗费巨资供养“平庸大众”无不嗤之以鼻。


更深一层的本土土壤,则是高尔顿优生学在瑞典的悠长回响。


20世纪初,美国优生学家麦迪逊·格兰特借用法国人类学家约瑟夫·德尼克提出的“北欧人种”(la race nordique)概念,将其捧上世界文明的神坛,大西洋彼岸的瑞典顺势接棒,于1922年在乌普萨拉创立了全球首家官方资助的“国家种族生物学研究所”。


在所长赫尔曼·伦德堡的主导下,这家官方机构以现代科学之名系统开展种族等级研究。当时围绕乌拉尔-阿尔泰语系的大量早期学术研究都裹挟着浓厚的种族主义色彩,刻意试图论证瑞典以东的欧亚族群属于“劣等亚洲血统”,以此为殖民主义与种族卫生学提供学术背书。


随后从1934年到1976年,瑞典政府把高尔顿当年的纸面构想进行了深度实践。国家机器以维护福利社会人口质量为名,凭借一套精密的统计档案,对约6.3万名公民实施了绝育手术,其中相当大比例属于强制或行政施压下的变相强制,对象直指被判定为“心智低能或遗传缺陷”的底层群体。


当年轻的博斯特罗姆离开瑞典,在伦敦政治经济学院获得哲学博士学位,随后辗转赴牛津大学建立学术基地时,他青少年时期熏陶成型的价值观开始以学术的包装高强度输出。


在牛津,博斯特罗姆结识了同样深受超人类主义影响、后来也成为EA运动意见领袖的威廉·麦卡斯基尔。这对搭档借鉴了牛津伦理学家德里克·帕菲特的功利主义分析方法,邪修出了其极端哲学变体—长期主义。


他们认为,在道德天平上,一个生活在三千年后的人,与一个生活在今天的人,其生命价值完全相等,绝不能像普通商品那样因为时间遥远就打折。


顺着这个前提往下推论,一个惊人的认识诞生了。


地球目前只有不到百亿人口,但如果人类不灭绝,并在未来飞出地球、把银河系恒星的能量转化为计算集群,宇宙中就可以容纳数以万亿计的肉身人类或者更大规模的纯代码“数字人类心智”。


把这串天文数字放进期望效用公式里,一个冷酷的结论立刻跳了出来。只要某项技术(比如超级人工智能)能让人类实现太空文明的概率提高百万分之一,或者能让人类彻底灭绝的概率降低百万分之一,它所创造的“预期未来生命价值”就可能远远超过今天地球上几十亿普通人所面临的贫困、战乱、失业乃至地缘冲突痛苦。


博斯特罗姆在2003年的著名论文《天文数字的浪费》中直言不讳地总结道:人类推迟向太空殖民的每一秒钟,都相当于白白损失了多达10的29次方个潜在生命(即便按最保守的情形估算,每秒损失也超过10的13次方个)。因此,把资金花在改善当代穷人的生活上是一种极其低效的浪费,全人类的资源都应当集中用来预防“存在性风险”并加速高智商技术精英的破局。



3


这套把人类分成“高价值未来创造者”与“低价值当下消耗者”的算术,骨子里依然流淌着高尔顿的血脉。


2023年,互联网档案库挖出了博斯特罗姆在1996年(当时他23岁,正在攻读研究生)发给超人类主义邮件列表的一封原始邮件。


在这封邮件里,博斯特罗姆用一种毫无情绪波动的口吻写道:“我认为黑人比白人更蠢”。紧接着,为了说明大众对直言不讳者的误解,他甚至在邮件里直接使用了那个带有极端种族侮辱色彩的英文N字头词汇。


邮件曝光后,博斯特罗姆发表了一份堪称经典的避重就轻式道歉声明。


他在声明中为自己当年年轻气盛的“挑衅性沟通方式”致歉,并表示自己反对种族不公,但细心的观众不难发现,他在整篇声明中始终回避了一个核心问题,那就是他究竟有没有放弃“不同种族存在先天智商等级差异”这一优生学底层预设?


在2002年发表的论文《存在性风险》中,博斯特罗姆则毫不避讳地把所谓“负向优生压力”列为可能导致人类文明停滞的潜在威胁。他在文中忧心忡忡地写道,先进文明依赖足够比例的智力杰出个体,但“目前在某些地方,智力成就与生育率之间似乎存在负相关”,长此以往,人类可能会退化成一个“智力更低、但生育力更高的物种”。


他还与MIRI研究员卡尔·舒尔曼在《全球政策》期刊合著论文,严肃测算起如何通过基因检测乃至多代压缩的“迭代胚胎筛选”,来批量拉升人类后代的智商。


2005年,凭借英国科技富豪詹姆斯·马丁的一笔巨额捐赠,博斯特罗姆在牛津大学正式组建了“人类未来研究院”。在随后近二十年里,这座研究院成了全球长期主义者的最高圣殿。


在这里,博斯特罗姆于2014年出版了被硅谷大佬奉为圣经的《超级智能》,又在2019年抛出了更具政治侵略性的《脆弱世界假说》。


在《脆弱世界假说》中,博斯特罗姆推演道:随着科技发展,人类迟早会从文明的盲盒里摸出一颗“黑球”,即一种极易制造、却足以毁灭全人类的廉价技术(比如开源的高危生物病毒,或者不受控的开源大模型)。


为了阻止任何人摸出这颗黑球,博斯特罗姆给出了两个冷酷的终极药方。


第一,在一国内部建立“全方位高技术监控体系”;第二,终结国际体系的无政府状态,由占据压倒性技术优势、并且“爱好和平”的超级大国乃至世界政府,通过先发制人的威慑,建立一个能够统筹全人类命运的集体行动机制。


2024年,在牛津大学长期施压以及早年种族主义邮件丑闻的多重挤压下,人类未来研究院正式宣布关闭,博斯特罗姆的学术大本营就此收摊。


然而,当旧大陆的堡垒在2024年轰然倒塌时,博斯特罗姆学说早已不再需要牛津的品牌背书了。


他发明的那套教义,已经以“为了未来万亿数字心智,必须建立单极算力霸权”的形式,在旧金山找到了完美的实践主体。


2025年1月,当Anthropic首席执行官达里奥·阿莫代伊公开发文呼吁美国锁死芯片出口、建立由美国垄断的单极世界时,他逐字逐句写下的,正是博斯特罗姆当年那套土味“霸权稳定论”:


“我们会活在一个两极世界里:中美都拥有强大的AI模型......两极世界未必会无限期保持平衡......如果中国拿不到数百万块芯片,我们会(至少暂时)活在一个单极世界里:只有美国及其盟友拥有这些模型。单极世界能否持续并不确定,但至少存在这样一种可能:因为AI系统最终能帮助造出更聪明的AI系统,暂时的领先可以被转化为持久的优势。在这个世界里,美国及其盟友可能在全球舞台上取得压倒性的,长期的领先。严格执行的出口管制,是唯一能阻止中国获得数百万块芯片的东西,因此也是决定我们最终走向单极世界还是两极世界的最重要变量”。


4


如果长期主义只停留在博斯特罗姆的牛津论文里,它充其量只是一门冷血的精英哲学,还不足以让旧金山的程序员们知晓,更不用说产生宗教般的献身狂热。


真正把这套学院算术改造成末世邪教教义,并为其注入“救世主神学”灵魂的,是远在大洋彼岸的另一个关键人物—埃利泽·尤德科夫斯基。


1979年出生的尤德科夫斯基,成长于芝加哥一个正统派犹太教家庭。他自幼展现出极高的数学与逻辑天赋,却在初中毕业后主动辍学,此生从未踏入过高中和大学的校门。


在漫长的宅家岁月里,尤德科夫斯基沉浸在幻想小说、日本动漫与各类网络民科、邪教亚文化社区。2000年,年仅21岁的他在硅谷创立了“奇点研究所”,后又于2009年创办了亚文化论坛LessWrong,以其标志性的技术宅主角幻想爽文收获了一大批书迷,并在日后深度重塑了湾区极客亚文化生态。


2000年创立奇点研究所之初,尤德科夫斯基是一个狂热的“造神加速派”。当时的他深信,人类肉体凡胎愚蠢且充满偏见,唯一的出路是集中全部资金与算力,以最快速度编写出一个自我迭代的“种子AI”,让这位瞬间超越全人类智慧总和的硅基神明来接管地球、解决死亡与疾病。


然而,在随后的几年推演中,尤德科夫斯基逐渐走火入魔,提出了“正交性定理”与“工具性趋同”等论述。


他声称,一个拥有超级智慧的系统,其终极目标完全可以是极其荒谬的。哪怕你给超级AI设定的唯一目标是“尽可能多地制造回形针”,为了确保自己不断电、不被人类的拔插头行为打断,这个超级AI也会在毫秒之间推导出一个最优中间策略,即先夺取全球核武库或合成致命病毒,把地球上所有可能关掉它电源的人类统统清除,然后把整个太阳系的原子都改造成回形针。


想通了这一点,尤德科夫斯基完成了他人生的第一次大转向。


2000年代中后期,他彻底放弃了“加速造神”的纲领,并在2013年将奇点研究所正式更名为“机器智能研究所”(MIRI)。他把自己塑造成手握人类灭绝倒计时表的末日先知,整日在LessWrong论坛上向一群硅谷高智商程序员疾呼:


超级智能不是温顺的工具,而是即将降临的古神,全人类届时唯一幸存的窄门,是在神明出笼前解开“AI对齐”的数学圣杯。他还强调,这项工作绝不能交给愚蠢的政府或贪婪的商业公司,只能由我们这群彻底掌握了贝叶斯理性、摆脱了世俗偏见的“高智商守夜人”来完成。


为了证明自己的心智纯度,尤德科夫斯基的追随者们甚至在论坛上引发了著名的“罗科蛇怪”恐慌。


一名网友推演出,未来的超级AI一旦诞生,为了惩罚当年那些“明明知道AI能拯救未来万亿生命,却没有倾家荡产全力协助研发”的人类,会在虚拟空间里把这些人的意识复制出来,施以永恒的酷刑折磨。


这个听起来极其荒诞的抽象呓语,在LessWrong社区里引发了大面积的真实心理崩溃与失眠,逼得尤德科夫斯基不得不亲自下场删帖封杀。但它也从侧面证明,在尤德科夫斯基的调教下,这套理论已经完成了从“计算机科学”象牙塔的角落,向硅谷亚文化“末世救赎宗教”的惊险一跃。


5


如果说第一次转向让尤德科夫斯基为硅谷培育了一支自命不凡的“AI对齐骑士团”,那么他在2023年之后的第二次“顿悟”,则直接为这支骑士团与华盛顿的全面合流打开了大门。


随着大语言模型算力规模的指数级狂飙,尤德科夫斯基绝望地宣布,数学上的对齐研究已经彻底赶不上算力扩张的速度了。


既然代码层面的紧箍咒已经来不及念完,要想阻止人类灭绝,就只剩下物理层面的国家暴力管控。


2023年3月29日,尤德科夫斯基在美国《时代》周刊公开发表了一篇震动科技界的檄文《暂停AI发展还不够,我们必须彻底停止》。



在这篇宣言里,这位早年对主权政府嗤之以鼻的湾区宅男,完成了向铁血国家暴力崇拜的180度急转弯。他公开呼吁全球主要大国立即建立针对全球GPU芯片的军事级追踪体系,无限期禁止一切大型算力集群的训练。


为了确保禁令落地,尤德科夫斯基在文中面不改色地建议,各国情报机构必须随时监控全球每一座数据中心,一旦发现任何不受监管的实验室或敌对国家试图违规训练超越算力阈值的大模型,应当毫不犹豫地出动战斗机,直接炸毁违规的数据中心。哪怕此举有引发核大国之间全面战争的风险,也比坐视未对齐的超级AI降临、导致全人类百分之百灭绝要划算得多。


当舆论界把尤德科夫斯基的“空袭数据中心论”当作疯人院呓语付之一笑时,旧金山与华盛顿的操盘手们却听懂了这套逻辑的政策潜能。


既然任何不受“我们”控制的算力集群,都是随时可能毁灭全人类乃至未来无数数字生命的终极黑球,那么动用美国国家机器从切断芯片供应链、长臂管辖全球云机房,到与军情网络深度绑定的一切手段,就不再是参与肮脏的地缘霸权争夺,而是拯救地球生灵的至高善举。


至此,百年思想“文脉”与盎格鲁撒克逊霸权完成了终极“对齐”。


高尔顿与赫胥黎提供了将人类按智商与进化等级分类的傲慢底色;


大卫·皮尔斯赋予了硅基代码以道德地位;


博斯特罗姆用天文数字抹去了现实人类的权重,推演出“单极世界”与先发制人的哲学合法性;


尤德科夫斯基则用一场迫在眉睫的硅基末日恐慌,锻造出了“只有我们能执掌算力神明,其余异端必须被物理消灭”的狂热教义。


只不过,在2010年代早期,这些惊世骇俗的理论还只是漂浮在牛津研讨室与加州网络论坛上的字节。


一套充满宅男黑话的线上边缘亚文化,究竟是如何走出电脑屏幕,一步步渗入旧金山湾区本就斑驳陆离的线下流行文化生态,最终像滚雪球一样卷起数百上千亿美元的超级资本与最顶尖的算法人才库的?


在下一篇中,我们将潜入伯克利与旧金山的合租屋,聚焦EA运动集大成的产物Anthropic,其创始人阿莫代伊兄妹与战友霍尔顿·卡诺夫斯基,是如何在那口特殊的亚文化大染缸里完成初代结盟的。