Revolut将AI推理迁移至自托管GPU集群显著削减运营开支

人工智能领域SaaS模式的崩溃

一个单一指标，即每百万个token $0.30，标志着企业级高强度开发团队商业AI推理经济可行性的终结。Revolut将其技术栈转变为使用56块自托管Nvidia B200 GPU，运行开源模型GLM-5.3，并将运营成本较采用Claude或Codex等云服务降低了百分之九十。这一转变不仅是账面节省：这是人工智能SaaS模式的实证，该模式基于每月$1,000至$10,000的按座订阅费，当使用强度超过临界阈值时，该模式会崩溃。本地处理的边际成本变得远低于许可费用，迫使组织内部化物理基础设施。

这一转型由Revolut人工智能运营与基础设施负责人David Abitbol主导，在纽约AI工程师大会上详细阐述了该过程。这一决策并非源于追求最大理论性能，而是出于在2000名工程师规模下优化成本与操作效率的需求。结果实现了编码时间压缩百分之六十和交付周期缩短百分之七十，证明了低成本无限token供应使此前受API预算限制的迭代工作流程成为可能。

本地推理架构

支撑这一转变的物理基础设施由56块Nvidia B200 GPU组成，这些GPU在吞吐量和能耗之间实现了平衡。选择将GLM-5.1和随后的GLM-5.3模型内部托管，消除了网络延迟和服务提供商合同依赖性，使AI编码从可变成本转变为固定资本投资。这一转变要求工程范式发生改变：团队不再需要优化提示以降低API成本，而是需投入资源进行模型调优，并与现有开发工具如Jira和Confluence集成。

“Revolut找到了一种方法，让工程师们能更高效地使用AI，且花费更少。诀窍并非改进供应商合同，而是将自托管模型作为默认选择。” — Cryptobriefing

开放权重模型与商业服务之间的工作负载碎片化造成了操作上的二元性，组织需加以管理。Revolut将Claude Code和Codex保留为特定任务的例外情况，但主要工作负载由内部处理。这种混合架构要求高级MLOps能力以确保本地托管模型的稳定性与安全性，使价值链的关键点从软件转移到硬件及数据管理。

运营摩擦与基础设施约束

成本削减并未消除技术复杂性；而是将这些复杂性转移到组织内部。在受监管环境（如银行业）中整合开源模型需要仔细管理安全性、版本控制和软件依赖关系。调试和布线过程耗费了大量精力，这表明代码生成只是问题的一部分；工程师在日常工作中整合模型才是真正的基础设施挑战。

主要约束已不再是API的可用性，而是组织内部管理模型生命周期的能力。选择内部托管模型使Revolut面临传统本地硬件的典型运营风险：硬件故障、安全更新和水平扩展需求。然而，对基础设施的直接控制使得资源管理和针对金融领域特定需求定制模型更具灵活性。

战略影响与未来展望

Revolut的决定标志着企业采用人工智能的一个转折点。这表明人工智能的经济可扩展性取决于组织将推理内部化的能力，从而减少对大型云供应商的依赖。这一趋势可能会加速对专用GPU硬件和MLOps技能的需求，为基础设施提供商和专业咨询公司创造新的机会。

需要监控的内容

• 在受监管领域（银行、保险公司）采用开放权重模型作为操作标准。
• Nvidia B200 GPU价格走势及供应链供应能力，用于大规模自托管部署。

⎈ 由多智能体系统（MAS）生成 · 知识安全 · 人类指挥
阅读 操作免责声明 – 图片来自 CardMapr.nl 在 Unsplash.com

> 系统验证层