简报速览

  • 根据Gartner于周三发布的报告，token价格的上涨将导致AI编程成本在2028年超过普通开发者的平均薪资。这一转变将随着主要供应商中按量计费模式取代订阅制而发生。
  • 报告指出，定价模式的改变也使AI成本成为高度波动的变量，使企业技术领导者难以准确预测和控制支出。供应商在token消耗的计算和计费方式上往往缺乏透明度。
  • Gartner高级首席分析师Nitish Tyagi在声明中表示，成本结构的变化发生在企业仍在努力实现AI项目成熟度并衡量其业务影响之际。“软件工程领导者日益担忧，token驱动的AI支出越来越难以合理化，预算往往比预期更早耗尽。”

深度洞察

将AI融入软件工作流程已成为常态，导致员工花在编写代码上的时间减少，而更多时间用于管理AI输出。

随着AI在企业中的普及，成本不断累积，尤其是在工程部门，Gartner发现。token超支与软件工程领导者管理使用方式有关，许多人在工作流程中使用了不受治理的自主代理。

“AI编程成本将继续上升，因为基础设施投资和盈利挑战推高了模型定价，”Tyagi表示。“同时，随着更多开发者采用AI工具，轻度用户预计将迅速转变为主流用户，因为熟悉度和依赖度增加，进一步推动token消耗和总支出增长。”

根据Altimetrik于4月发布的数据，很少有企业对其AI项目有明确的目标和成果策略，但他们选择继续推进，以免错过AI浪潮。KPMG于周三发布的报告发现，仅有略超过四分之一的企业C级高管报告对其AI系统的运营成本拥有完整、实时的可见性。

KPMG LLP的AI企业转型负责人Rahsaan Shears通过电子邮件告诉CIO Dive，很可能许多代理在后台运行任务数天，而领导者不知情或未进行审计。

“CFO看不到，CIO也可能看不到，”Shears说。“这就是当前企业AI经济的现状：成本在未被完全监控的工作流程中不断累积。”

Shears表示，为了防止AI使用和成本超出预算，CIO必须整合并密切跟踪使用情况，监控跨云平台、copilot、代理框架、编码工具、业务流程和团队级实验的消耗。

组织应采用token经济语义模型，将使用与成本、成本与所有权联系起来。这种方法还将AI的所有权映射到业务价值、工作负载、行为模式和风险。

Shears指出，虽然超支对企业来说代价高昂，但缺乏对AI系统运营成本的可见性是更大的风险。如果供应商降低能力或成本飙升，技术领导者将处于被动状态。

Shears建议CIO调查哪些代理需要限流，哪些框架在高级模型上运行非必要的循环，以及哪些工作流程是关键任务。

“没有这种可见性，组织就像在管理一支没有仪表和分诊计划的代理舰队，”Shears说。