深度简报:

  • 随着企业AI使用从辅助功能演变为多步骤流程,技术领导者将面临不断增长的AI推理成本,Gartner的一份报告 周一发布 发现。根据该分析公司的数据,到2028年,AI推理成本预计将增长超过五倍。
  • 代币正变得 更具成本效益,但不断变化的AI定价模式和更复杂的工作流程正在 给技术领导者带来挑战 ,他们负责成本管理。Gartner的数据显示,创新速度目前超过了企业从其AI提供商那里获得的成本节省。
  • Gartner高级总监分析师Will Sommer在报告中表示,产品领导者将无法依赖更高效的代币来控制其组织的成本。他说:“每一代AI能力的迭代都将需要更多、且通常更昂贵的代币。目前还没有可靠、经济的一体化模型。”

深度洞察:

AI代币对企业来说可能更具成本效益,但组织对AI系统的依赖以及他们对技术的使用量将继续推高支出。

企业已在2026年努力部署代理系统,Gartner发现,到2026年底,对AI优化基础设施即服务(支持大型语言模型训练和运行的计算)的支出预计将几乎翻倍,达到420亿美元, 本月早些时候.

Sommer在7月接受CIO Dive采访时表示,Gartner估计全球代币消费量约为每天300万亿代币,年化增长率为500%至600%。

难以预测的AI成本正迫使一些企业重新考虑其实施计划。根据成本管理软件Mavvirk的一份 7月报告 ,近一半的组织报告称,他们已将AI支出意外上报给董事会。

Gartner周一的报告发现,三个主要因素正在塑造当前的代币经济。基础模型成本正在下降——这对企业来说是一个胜利——但AI效率的提高正在解锁更强大、更昂贵的模型,以追求更高价值的AI应用。这些复杂的AI工作流程使用的代币远多于早期模型的简单聊天机器人交互,这推高了整体推理成本。

Gartner发现,AI的创新速度超过了成本曲线。该分析公司称之为“推理悖论”,即AI的总体成本不断升级,却没有为可预测的价值提供清晰路径。

Sommer在报告中表示:“推理悖论的严峻经济性体现在简单聊天机器人和AI代理之间的差异上。简单聊天机器人必须读取并解释查询,然后快速以概率上合理的答案回应,而AI代理必须不断推理、协商和自我质疑。”

Gartner的报告称,从代理AI模型或推理代理等更高级系统中实现投资回报率需要比基础模型高得多的回报。否则,公司需要高度优化其模型,以相对于成本效益的智能完成复杂任务,Sommer表示。

Sommer在7月表示,这两种选择都是可能的,但需要对业务流程进行重大改革。

Sommer说:“每位CIO都会有不同的优先事项,他们会有对组织至关重要的不同事务。CIO必须与组织的其他成员合作,确定优先事项,以及AI是否是解决这些问题的成本效益方式。”