快览要点:

  • 据Gartner于周一发布的报告,全球终端用户在AI模型与平台上的支出将较去年跃升63%,达到640亿美元。
  • 报告指出,随着成本上升,CIO正更密切地审查AI预算,重点关注使用效率、成本控制与可衡量的业务成果。企业客户将倾向于选择能在成本、延迟、性能与可靠性方面展现价值的供应商。
  • Gartner高级首席研究分析师Arunasree Cheparthi向CIO Dive表示,由于智能体AI的兴起,大部分模型支出正被嵌入平台之中。“模型厂商正转变为平台的智能提供方。现在的竞争焦点在于谁能端到端地捕获整个企业工作流,”她说。

深度洞察:

随着AI应用日趋成熟,企业正在决定哪些试点项目值得继续投入,那些能帮助企业管理AI在业务中部署位置与方式的供应商将获得更多成功机会。

Cheparthi表示,AI支出将逐年持续上升,但CIO及其他技术决策者可采取若干策略来控制开支。她指出,CIO可以通过审查供应商合同、组织的AI架构与治理机制来监控成本。

企业技术领导者可在合同层面寻求的保护措施包括:锁定将输入与输出比率挂钩的令牌定价,或在其AI工作流中设置硬性消费上限。实际操作中,管理层可以设定消费上限,一旦达到上限即触发自动限流,或需要审批才能突破限额。

“在可行的情况下,企业应转向基于成果或基于价值的定价模式,”Cheparthi表示。“传统的按量消费模式会带来不可预测性,且往往与实际业务价值脱节。”

Cheparthi还提到,合同谈判中还可以约定,在特定时期内未使用的令牌可结转至下一周期,这是一种减少浪费的有效策略。

随着CIO角色的持续演变,他们已成为组织AI战略与使用的编排者与架构师。Gartner报告称,这种架构——即组织如何执行其AI战略——在成本节约方面可发挥重要作用。

企业可以实施多供应商路由策略,为每项任务部署最具成本效益的模型:对常规请求使用低成本或开源大语言模型,将高级订阅模型保留给更复杂的任务。

Cheparthi表示,那些跟踪每令牌成本,并围绕冗余提示或过度消费设定降低目标的企业,将在投资中获得较高的回报。

她补充说,令牌使用可见性应成为跨工作流跟踪的标准运营指标。

“企业应通过细分预算来强制执行严格的消费上限,为每个部门或应用设定硬性财务边界,”Cheparthi表示。“一旦达到上限,应自动启用访问限流或升级协议,就像从一开始就确保纪律性使用一样。”

企业的治理策略是一个常被忽视的成本节约机会。许多供应商将AI溢价嵌入捆绑包中,这会推高续约成本。公司应将具备AI专业知识的合同审查团队纳入其治理流程。

“这可以防止资本流失,并强制进行严格的结果衡量,同时使部门绩效目标与交付可衡量价值的AI计划保持一致,”Cheparthi表示。