Anthropic预训练研究员退出并呼吁限速,Evan Hubinger称十年灭绝概率超10%

“我选择离开,并且认为前沿实验室应当协调限制模型能力的继续提升。”这句来自 Jacob Coxon 的公开声明,把一场原本停留在实验室治理层面的争论,推到了资本市场的桌面上。Coxon 此前在 OpenAI 和 Anthropic 从事预训练工作,他的离职帖发布在 X 上;随后,Anthropic 对齐科学负责人 Evan Hubinger 公开回应,表示认同 Coxon 对风险的主要判断,并给出一个颇具冲击力的数字——未来十年 AI 导致人类灭绝的概率,他估计在 10% 以上。WIRED 等媒体跟进报道了这场隔空对话。

对盯着科技股和 AI 基建订单的人来说,问题很快从“该不该担心”变成“钱会不会少”:如果前沿实验室真的放慢模型研发,过去几年不断上修的 AI 资本开支,是不是也要跟着拐头?依赖 AI 叙事拿到估值溢价的科技股,需不需要重新定价?Beta to Alpha 作者 Saket Mehrotra 在《The bottleneck isn't the model. It never was.》一文中给出的判断是,实验室对风险的担忧和基础设施投资降温,不能直接画等号。

Coxon 离职与 Hubinger 回应:时间线还原

先把事情按顺序摆清楚。第一步是 Coxon 在 X 上发布离职声明,核心主张有两层:一是 OpenAI 和 Anthropic 正在竞相开发能够自我改进的超级智能,二是这些机构没有采取足够负责任的安全措施。他强调这不是外部批评者的孤立声音,而是来自参与过预训练的一线人员。

第二步是 Anthropic 内部的回应。对齐科学负责人 Evan Hubinger 公开表示认同 Coxon 的主要判断,并把未来十年 AI 导致人类灭绝的概率估计在 10% 以上。这个表态的分量在于,它不是来自监管机构或伦理学者,而是来自仍在头部实验室任职的安全方向负责人。相关表态经 WIRED 等媒体报道后,迅速从安全圈扩散到投资圈。

第三步才是市场层面的追问。Mehrotra 把问题拆成两截:AI 安全争议发生在模型和实验室治理层,而本轮 CapEx 周期的约束已经逐步下沉到芯片、封装、电力和数据中心这些物理基础设施。两件事不在同一个层面上运行,因此不能用一个“减速”按钮同时关掉。

各方立场:安全焦虑为何难转化为 CapEx 收缩

Coxon 描述的博弈结构并不复杂。前沿实验室并非没有意识到风险,真正的问题是没有任何一家愿意率先放慢速度。逻辑是:如果一家选择减速,安全意识更弱的竞争对手可能抢先做出更强大的模型。与其让不够谨慎的对手先突破,不如继续投入资源,确保自己处于领先位置,并争取以更安全的方式控制技术。

Mehrotra 由此推出一个反直觉的结论:这种思路很难转化为资本开支收缩,反而可能强化竞赛。实验室越相信自己身处一场决定性的技术竞争,就越难削减 GPU 采购、训练集群和数据中心投入。安全焦虑和 CapEx 增长可以同时存在,甚至形成一个自我强化的循环——担心能力快速提升,却因为怕落后而投入更多,进一步加快能力竞赛。需要说明的是,这是作者对行业博弈结构的解释,不是已经得到公司资本开支计划证实的结果。

第二个立场分歧在瓶颈位置。Mehrotra 认为产业核心瓶颈已经迁移多次,每次迁移都提高资本密集度:最初限制训练的是 GPU 供应和芯片配额;随后转向 HBM 高带宽内存和先进封装;如今电力供应、电网接入和数据中心建设成为更难迅速解决的约束。芯片和封装可以靠扩产缓解,电力问题通常需要建设或重启发电设施、增加燃气轮机与变压器产能、升级输电和并网系统。这类项目投资规模更大、周期更长,没法靠一次软件升级解决。

减速也未必让算力需求自然下降。更长的安全测试、更复杂的推理过程,以及存量模型向企业和消费者场景的部署,仍然要消耗大量计算资源。模型发布频率下降,与已签订的芯片订单、电力采购协议、数据中心建设项目之间,存在明显时间差。

后续观察点:哪几组数据决定 CapEx 逻辑是否改写

第一条观察线是云厂商和 AI 实验室的实际采购与建设计划,而不是社交媒体上的表态。判断安全焦虑是否真的压过竞赛压力,看的是 GPU 订单、训练集群扩容节奏、数据中心开工进度有没有出现方向性调整。目前公开信息里,还没有看到与“协调限速”相匹配的资本开支下调。

第二条线是电力与电网环节的签约情况。如果稀缺资源确实从“模型智能”转向电力及配套基础设施,那么发电设施、燃气轮机、变压器、并网升级相关的长期协议,会比模型发布节奏更早反映产业真实温度。Mehrotra 建议投资者关注未来 18 个月正在形成的新瓶颈,而不是只盯模型层争论最激烈的部分。

第三条线是训练与推理的区分。即使实验室协调限制超大规模前沿训练,存量模型的推理需求、企业部署和 AI 应用普及仍可能推动算力消耗。这意味着 CapEx 更可能出现结构变化,而不是断崖式收缩。落到个股层面,依赖前沿模型持续跃升、产品快速变现的公司,与掌握 GPU、网络设备、供配电、制冷和数据中心资源的公司,订单逻辑未必同步恶化。过去模型公司、云厂商、半导体企业和电力基础设施供应商都能从 AI 叙事中获得溢价,如果能力竞赛放缓,市场可能更严格地区分技术领先、商业化能力和订单兑现。

真正能改写 CapEx 逻辑的变量是监管:如果只是延长安全测试、放缓模型发布,CapEx 未必随之下降;如果政府直接限制训练集群、芯片供应或数据中心用电,整个投资框架才可能发生根本变化。这一条目前尚未落地,属于需要持续跟踪的政策风险,而非既成事实。

这套分析框架的适用边界也需要讲清楚。它适合用来理解前沿实验室治理争议与基础设施投资之间的关系,不适合直接推导某只股票或某个板块的短期涨跌;Mehrotra 的博弈解释本身也未被公司资本开支计划验证。不适用的情况包括:把实验室人员的公开表态当成采购指令,或者把电力瓶颈叙事直接等同于相关公司订单必然增长。可执行的一条建议是,把观察重点放在可查证的公开文件上——云厂商季度财报中的资本开支指引、数据中心与电力采购协议的公告、监管机构对训练算力和芯片出口的政策文本,用这三类出处交叉验证,比追逐社交平台上的限速讨论更接近真实变量。

本文由 华里网 整理发布,数据等内容来源于第三方平台及用户投稿,本站仅为信息展示与检索服务,不保证内容的准确性、完整性与时效性。数字资产相关信息仅供参考,不构成任何投资建议。