AGI经济学的“简单”真相：自动化成本归零，验证成本才是天花板

本文永久链接 – https://tonybai.com/2026/11/02/agi-economics-verification-bottleneck

大家好，我是Tony Bai。

【导读】

自动化的成本正在指数级下降、逼近于零；但人类核实、审核、担责的能力，却被生物学死死摁在原地——这条“验证曲线”压根跑不过“自动化曲线”。MIT教授Christian Catalini联合华盛顿大学Xiang Hui、UCLA学者Jane Wu，用一篇112页的重磅论文，给出了一个反直觉的结论：AGI时代经济增长的真正瓶颈，从来不是智能，而是人类的验证带宽。

【文章要点】

两条成本曲线的赛跑：自动化成本（c_A）由算力驱动正指数级下降并逼近于零，而验证成本（c_H）受人类生物学时间与注意力限制下降极其缓慢，两者越拉越大的“测量性缺口”才是 AGI 时代经济增长的真正硬约束；
经济版图的四象限重塑：论文根据自动化与验证难易度，将经济切分为安全工业区、失控风险区（企业最易“先斩后奏”的重灾区）、人类工匠区与纯默会区；
舒适人机协作的动态瓦解：由三股侵蚀力量驱动——新手断层（初级岗位消失导致未来人类验证专家断代）、编纂者诅咒（专家传授知识加速自身贬值）与对齐漂移，使当下的“人类在环”成为极其不稳定的过渡状态；
警惕特洛伊木马外部性：盲目部署未经验证的智能体能在短期内降本，却在“可见指标”与“真实意图”的缝隙中堆积隐性系统风险，放任自流将滑向名义繁荣内里空虚的“空心经济”；
“AI三明治”组织与责任即服务：企业正在转向“顶层人类定义意图—中层低廉机器执行—底层人类出具担保”的三明治架构；经济租金将不可逆地流向意图定义者、结果承保人与无法被度量的信任网络，软件商业模式也正从“卖工具”向“卖结果与承担责任（Liability-as-a-Service）”跃迁。

解读MIT教授团队最新AGI经济学论文《Some Simple Economics of AGI》

一个反直觉的判断

过去三十万年，人类认知一直是地球上最重要的进步引擎。但这份“智能”其实高度特殊——它是在自然选择的严酷环境里被打磨出来的一种“动物智能”，被代谢效率、生存压力和社会摩擦这些残酷的奖励函数反复调校。从欧几里得几何到阿波罗登月计划，人类文明的每一座丰碑，都出自这套受限于生物学的认知架构。

而今天，我们正在把“认知”从“生物学”里剥离出来。我们训练出的，是第二种、完全陌生的智能形态——它不是被生存的物理摩擦塑造的，而是被压缩、预测、重组人类数字化知识的总和训练出来的。它不继承我们的肌肉、激素或进化本能，它继承的是另一样东西：人类写过、画过、编过、测量过的一切，所构成的巨大潜在地图。

论文作者认为，纠结“这是不是真正的通用人工智能（AGI）”已经变得没有意义。真正重要的分界线，也不再是“常规任务 vs 非常规任务”，而是**“可测量 vs 不可测量”**。任何能被简化为一个指标的任务，无论它过去被认为多么高端、多么依赖人类的创造力，都可以被工业化式地自动化。AI不只是在已经被测量的世界里替代劳动力，它本身还是一台“测量扩张机”——不断把过去无法结构化的现象，转化为可以被结构化的数据流，从而持续扩大“可自动化”的边界。

这带来一个更深的问题：如果机器能替我们执行、替我们重组知识，甚至替我们模拟现实、发现新的物理规律，那人类还剩下什么是独有的？

论文给出的答案不是退守，而是角色的彻底转移：当生成一个答案的边际成本趋近于零，人类的价值就会全部集中到“意图的架构”和“验证的严谨性”上。我们正在从“靠建造和发现定义自己价值”的时代，走向“靠引导、理解、并为创造物的意义负责”来定义价值的时代。

核心框架：两条曲线的赛跑

论文的整个理论大厦，建立在一个极其简洁的比喻上：AGI转型的本质，是两条成本曲线的赛跑。

自动化成本（Cost to Automate，记作 c_A）：由算力和积累的知识驱动，随着模型能力提升而指数级下降，最终逼近于零；
验证成本（Cost to Verify，记作 c_H）：受限于人类的时间、注意力和身体节律，是一条“生物学瓶颈曲线”，下降极其缓慢。

这两条曲线之间的距离，被作者定义为**“测量性缺口”（Measurability Gap，Δm）**——它衡量的是“智能体能够执行的东西”和“人类能够负担得起去核实的东西”之间的差距。

这个缺口非常关键，因为它决定了另一个核心变量：可验证份额（Verifiable Share，s_v）——也就是智能体产出的内容里，究竟有多大比例是“真正被验证过、可以放心使用的产出”，而不是“看起来很像那么回事、实际未经检验的产出”。

（上图中快速下降的一条是自动化成本，几乎不动的一条是验证成本，两条线之间越拉越大的间隙，就是"测量性缺口"。）

这个框架最重要的推论是：原始的智能体生成能力可以指数级扩张，但真正能被社会兑现的经济价值，会被验证带宽死死卡住。

早期AI应用为什么最先在聊天、生成图片、写小段代码这些场景铺开？因为这些场景里，人类几秒钟就能判断“对不对”，验证成本几乎为零。但当智能体开始承担更长周期、更高风险的任务时，验证就会变成整个系统里最稀缺的资源——而市场的竞争压力并不会因为“验证很难”就停下脚步，反而会推动企业转向“先部署、再说”的路径，让隐性的系统性风险在“能执行”和“能验证”之间的缺口里悄悄堆积。

测量性缺口如何切分整个经济

顺着“自动化成本”和“验证成本”这两个维度，论文把整个经济体的工作类型切成了四个象限：

安全工业区（Safe Industrial Zone）：自动化便宜，验证也负担得起——这是AI可以安心大规模铺开的地带；
失控风险区（Runaway Risk Zone）：自动化便宜，但验证负担不起——这正是风险最容易被系统性低估、最容易“先斩后奏”的地带；
人类工匠区（Human Artisan Zone）：难以自动化，但可以验证——人类经验和判断依然稀缺且有效；
纯默会区（Pure Tacit Zone）：既难自动化，也难验证——这是最原始意义上的“人类专属地带”。

论文特别提醒：真正值得警惕的，恰恰是“失控风险区”——它在很多组织的仪表盘上，看起来和“安全工业区”没什么两样，因为两者的自动化成本都很低、执行速度都很快。区别只在于，一类产出经得起核实，另一类产出经不起核实。而这个区别，恰恰是最容易被忽视的。

由此，论文提出了一个替代“技能偏向型技术变革”的新概念：测量性偏向型技术变革（Measurability-Biased Technical Change）。

过去，教育程度越高、技能越稀缺，回报越高；但在这套新框架下，经济租金开始流向那些身处“不可测量”领域的人，以及愿意为机器产出承担责任、提供担保的人。反而是那些“高度复杂但可被完全测量”的工作，工资会被压缩到接近算力的边际成本。

“人机协作”的舒适现状，其实并不稳定

论文最尖锐的部分，是指出当下流行的“人类在环”（human-in-the-loop）模式，看似安全，实则是一个动态不稳定的均衡。它正被两股力量从两端同时侵蚀。

第一股力量：新手断层（Missing Junior Loop）。

当AI能完成大部分初级任务，企业自然会削减初级岗位。但初级岗位从来不只是“完成任务”，它更是新人积累判断力、锻造专业直觉的必经之路。一旦这条通道被砍断，未来能够胜任高阶验证工作的人类专家存量（论文中记作 S_nm）就会持续萎缩——而这恰恰发生在验证能力最被需要的时刻。

第二股力量：编纂者诅咒（Codifier’s Curse）。

专家们出于善意或商业动机，不断把自己毕生的经验、判断和诀窍转化为训练数据（K_IP），教给AI系统。这个过程本身没有错，但它客观上加速了专家自身经验的可替代性——专家越是慷慨地“编纂”自己的知识，市场对这类专家判断力的稀缺性溢价，就消失得越快。

再加上对齐漂移（Alignment Drift，τ̇）——智能体的能力与既定目标之间会随着时间自然产生偏离，需要持续的人工维护才能拉回正轨——三股力量叠加，让“舒适的人机协作”从一个稳定的终点，变成了一个需要不断投入才能维持的、随时可能滑坡的中间状态。

特洛伊木马外部性：空心经济，还是增强经济？

当智能体的能力扩张速度超过人类监督能力的扩张速度，经济就会滑向一个“失控风险区”占比越来越高的状态——因为对单个企业而言，部署一个尚未充分验证的系统，往往在私人层面是“理性”的：能抢占市场、能降低短期成本，而风险大多是延后兑现、由社会共同承担的。

论文把这种系统性隐患命名为**“特洛伊木马”外部性（X_A）**：表面上看，各项指标都在上升，经济活动一片欣欣向荣；但在“可见的指标”和“人类真实意图”之间的缝隙里，一种看不见的债务正在悄悄累积。

更值得警惕的是，一个看似聪明的“补丁方案”——用AI去验证AI——反而可能制造出虚假的安全感，因为不同系统之间往往共享相似的盲点，一旦某类错误具有相关性，“用AI验证AI”不仅无法消除风险，反而会让风险以更隐蔽的方式传播。

如果放任这几股力量自由发展，经济会呈现出重力般的下坠趋势，滑向论文所说的**“空心经济”（Hollow Economy）**——名义产出爆炸式增长，但人类能动性持续萎缩，看起来热闹，内里却越来越空心。

但论文的态度并不悲观。它给出的另一种可能是**“增强经济”（Augmented Economy）**：只要验证能力能够跟上智能体能力的扩张速度，那么原本威胁系统性崩溃的这些力量，反而会转化为推动无限探索、实验与执行的引擎。

分岔点不在技术本身，而在于社会是否愿意把验证基础设施、观测能力和责任机制，当成和算力同等重要的战略资产来投资。

企业重构：从“雇人”到“三明治”

对企业而言，论文提出一个非常具体的组织形态转变：验证不再是一个合规部门的边角料工作，而正在成为企业最核心、也最具防御性的生产技术之一。

这直接导向一种新的公司结构——论文称之为 “AI三明治”（AI Sandwich）：

在这套结构里，最顶端是一小群定义“意图”的人类导演，中间是庞大的、成本极低的智能体执行层，最底层是负责核验结果、并愿意为结果出具担保的“责任承保人”。

由于原始执行能力被彻底商品化，企业真正的竞争优势，转移到了那些能够可靠地引导和认证智能体系统的稀缺人才和数据上——网络效应不再体现在“产出规模”，而体现在“可信结果的规模”。

论文进一步指出，企业的护城河正在从传统的规模、渠道、专利，转向五个新维度：验证基础设施、验证级“地面真相”数据（ground truth）、顶尖人才、不可测量领域的独特能力，以及建立在信任而非单纯流量之上的网络效应。

给每一个身处其中的人的行动清单

论文的最后一部分，分别给个人、企业、投资人、政策制定者，给出了针对性的应对策略：

对个人：

AI驱动的“合成练习”（synthetic practice）能大幅加速一个人发现自身天赋、压缩通往专业水准的时间线，让单个个体具备过去需要整个创业团队才能达到的执行规模。但正因为“智能”本身已经变得极其廉价，人类工作的重心必须转向三类角色——意图的定义者、结果的验证者/承保人、以及在不可测量经济里创造价值的人（这类价值往往锚定在地位、人际连接与协调能力之上，而非可量化的产出）。

对企业：

把验证基础设施当作核心生产技术来投资，而不是事后补救的合规成本；扩大“验证级”数据资产的积累；围绕“人类意图—机器执行—人类验证与担保”的三明治结构重构组织；在原始产出被彻底商品化的前提下，把稀缺人才和信任型网络效应，作为新的竞争壁垒来经营。

对投资人：

资本配置的重心，应该从“给已经商品化的执行能力买单”，转向为**“尚未被测量的前沿”**买单——那些价值确实存在、但缺乏现成指标、基准和短周期反馈回路的深科技、长周期研发和真实世界部署场景。同时重点关注验证级地面真相数据、观测工具、人类增强与合成练习平台，以及率先建立“三明治”结构、具备安全或共识型防御壁垒的公司。随着收入模式从“卖软件”转向“卖结果”（software-as-labor），企业估值本身也需要重新锚定——不再单纯看产出规模，而要看它吸收尾部风险、为自主结果定价和提供担保的能力，也就是“责任即服务”（Liability-as-a-Service）。

对政策制定者：

论文认为，最核心的市场失灵，就是那个尚未被定价的“特洛伊木马”外部性——部署未经验证的智能体的企业，独享私人收益，却把系统性风险转嫁给全社会。应对方式包括：把验证基础设施和地面真相数据当作基础性公共品来投资；加速推动人类增强与合成练习工具的普及；建立能够把尾部风险内部化的责任制度，确保“安全地扩张”不会在竞争中输给“鲁莽地部署”。论文特别强调，如果这件事做对了，它带来的回报也是空前的——这可能是几代人以来公共品供给规模最大的一次扩张，因为边际成本足够低，让真正的普惠可及性第一次在经济上变得可行。