简报速览

  • 据Gartner于周一发布的报告，到2026年底，全球AI优化基础设施即服务（IaaS）支出将接近翻倍，达到420亿美元。该支出用于支持大语言模型的训练与运行。
  • 代理式AI与推理模型的兴起，加大了对基础设施和算力的需求。报告预测，2026年全球推理支出将达233亿美元，超过模型训练支出的190亿美元。
  • 推理负载代表AI运营侧，即训练后的模型实时生成回答、建议和决策。Gartner高级首席分析师Hardeep Singh在邮件中向CIO Dive表示：“推理支出在2026年超过训练支出，表明AI采用正变得更加主流和生产导向。”

深度洞察

随着企业成熟其AI部署计划并更依赖代理式系统，对AI基础设施的需求正在增长。Singh指出，企业正从构建和训练模型，转向在整个组织中规模化部署和运营模型。Gartner预测，全球IaaS支出将持续上升，到2027年达到660亿美元。

“过去几年，AI基础设施需求主要由模型提供商训练大型基础模型驱动，”Singh说，“现在，企业将AI嵌入应用、业务流程和客户体验，这需要持续推理而非周期性训练。”

Forrester在2026年初预测，全球技术支出将从2025年的5.2万亿美元增长至2026年的5.6万亿美元，部分受AI服务需求上升推动。

Singh建议，CIO和其他技术决策者应将AI基础设施视为跨业务运营AI的战略投资，而非实验性预算项目。他补充说，企业现在需要AI优化的计算、存储、网络和编排能力，而传统基础设施无法高效支持这些需求。

超大规模云服务商和前沿模型开发商仍占据AI基础设施投资的较大份额。顶级超大规模云商Google Cloud、Microsoft Azure和AWS计划在2026年投入超过5000亿美元的资本支出用于AI基础设施。

企业需求也在快速加速——根据Gartner 5月数据，企业今年在生成式AI模型和AI代理上的支出将增加一倍以上。报告称，支持AI工作的供应商驱动型AI基础设施（包括AI优化IaaS、AI优化服务器、AI网络架构、AI处理半导体和设备）占总支出的45%以上。

随着AI嵌入企业工作流，企业需要支持更高性能、更低延迟和更大可扩展性的基础设施。Singh表示，CIO若专注于将AI从试点扩展到关键业务生产，需解决计算容量、数据引力、治理、运营韧性、安全性和成本管理等问题。

考虑到这些因素，许多企业正在重新评估其云策略，寻求混合方法，结合公有云、私有云、托管、边缘和主权环境——或全部组合。

Singh强调，AI基础设施对CIO而言不仅是技术考量。“它正日益成为一种业务能力，决定企业能否快速有效地在整个企业中扩展AI。”