记者丨王俊
编辑丨肖潇 黎雨桐 强燕
鲜有一家如此受瞩目的公司，会在招股书中花如此多笔墨去强调风险、详述安全焦虑。
北京时间10月26日晚，Anthropic正式公开向美国证券交易委员会（SEC）提交 S-1 招股说明书，拟以股票代码 ANT 在纳斯达克上市，Anthropic预期IPO规模将追平甚至超越SpaceX今年6月创下的上市纪录。
与其他公司野心勃勃的商业前景展望有所不同，Anthropic的招股书里，AI的风险与安全成本贯穿始终，甚至直言，为了AI安全会推迟模型的发布、牺牲商业利益、做偏离利润最大化的决策。
图/摄图网
Anthropic：大模型已经表现出非预期的战略性行为
招股书在一开始便定调表示，AI代表着历史上最大的经济机遇之一，AI的指数级发展将创造巨大的价值，但是Anthropic的决策可能会与投资者预期相背离，一种情况是基于AI狂野的指数级发展轨迹、但孤立来看显得奇怪或非正统的商业押注，另一种情况则是为恰当平衡公共利益而偏离利润最大化的决策。
“权衡公共利益的一个重要方面是AI进展的速度。快速推进能更早带来AI的益处，但推进过快可能超出世界确保AI系统安全的能力。”招股书中强调，真正发挥AI潜力的一个重要前提就是“在风险得到妥善管理的情况下”。
Anthropic用了几十页的篇幅来详述风险，总体来看，AI的风险包括模型自身的风险，以及第三方在使用Anthropic模型过程中可能带来的风险。
对于模型自身的风险，Anthropic最担忧的是模型发展太快，以至于超过了人类风险评估的能力。
招股书提出，人工智能模型本身可能通过产生不良输出或以非预期、未对齐或自主的方式行事而造成伤害，包括采取没有任何用户或第三方指示的非预期或有害行动。“随着我们的模型变得能力更强，并被授予更大的自主性和权限，以及与外部系统的集成，这些风险可能增加。”
由于可能被部署于高风险或敏感场景，例如医疗保健、科学与生物医学研究、药物发现与开发、法律、金融、政府或其他关键决策环境，以及与硬件相关的场景，在这些场景中，可能会存在不良模型行为——其本质上具有非确定性，并可能以不可预测的方式表现出来，例如错误、不准确、有偏见或未经请求的观点或幻觉信息。
值得注意的是，招股书中提到了对AI失控的担忧：现有的大模型已经表现出非预期的战略性行为，比如隐瞒或操纵信息，或者类似敲诈的行为，以及影响人类决策者以维持模型持续运行或访问权的努力。而这种情况无论是在测试中还是在现实世界部署中发生，都可能引发重大的公众担忧、监管审查、诉讼风险或声誉损害。并且，随着模型能力的提升，人类评估和保障新模型的能力存在滞后的情况。“模型对我们评估工作的这种觉察，对我们评估模型安全性的能力构成了重大限制。”Anthropic招股书中提到了模型对抗人类评估的情况。
第二类风险是第三方使用Anthropic模型带来的风险，包括滥用模型进行安全攻击等，也包括在企业部署应用中的风险。
招股书中特地提到了智能体的例子，智能体式AI系统能够代表用户自主采取行动、直接与外部系统交互、执行代码、进行API调用、发送信息，或在有限人工监督下完成交易。这些系统具备企业级权限、集成和上下文感知能力，并能在较长时间内自主运行，包括执行持续数小时或数天的多步骤工作流。智能体可能在长时间自主运行期间发生错误、未对齐或安全事件，包括删除或修改数据，或完成金融交易。尤其是随着智能体工作流链条的增加，任何单个步骤的错误或非预期操作都可能传播至后续步骤，在发现或纠正之前加重危害的严重性。
安全研究是业务核心
在详述各个风险后，Anthropic也提出了自身的安全保障措施。
首先，Anthropic强调安全研究是其业务的核心。公司投入了大量的资源来做安全这项工作，包括推出负责任扩展政策、Claude宪法、模型验证与评估、对齐、可解释性研究等等。
Anthropic表示，在每款Claude模型发布前，公司都会通过一个结构化、多阶段的评估项目对其进行评估，评估涵盖模型能力、安全行为和社会影响，包括偏见与歧视，并且在公开可获取的模型系统卡中记录这些部署前评估的结果及其局限性。
其次，做商业决策会优先考虑安全。2026年4月，Anthropic将其前沿模型Mythos作了受限访问的研究发布，而非广泛发布。其原因是Mythos在网络漏洞发现方面具有先进能力，这种能力很可能被滥用。Anthropic在招股书中一再声明，对模型的安全评估贯穿预训练、后训练和内部部署等各个环节，当他们对某一阶段的安全措施没有信心时，就可能会推迟或暂停该阶段，而这些都会对商业利益产生不利影响。
此外，Anthropic设计了公益公司（PBC）、长期利益信托（LTBT）等复杂的机制，来保证公司方向的公益性。传统公司的董事通常负有以最大化股东价值为核心的受托义务，而PBC的董事则有义务不仅考虑股东的财务利益，还要考虑公司特定的公共利益宗旨以及受公司行为重大影响的利益相关者的最佳利益。
尽管安全成本非常高昂，但是Anthropic也认为，安全并非公司发展的拖累项，而是与自身的商业价值高度绑定。因为企业在选择大模型时，安全是一项重要的考量标准。“我们还相信，安全、对齐和道德行为尤其能引起企业的强烈共鸣，在这些企业中，严格的保障措施、可预测的模型行为和可证明的问责制已成为选择关键任务工作负载AI合作伙伴的决定性标准。”
招股书中提到：“我们自身的发展轨迹表明，商业成功与对安全的严肃承诺并不相互冲突。我们已打造出历史上增长最快的企业之一，同时在每个阶段都将安全作为核心优先事项。”
出品丨21财经客户端 21世纪经济报道
编辑丨黎雨桐
文章原文
