ChatGPT发布两年后,CIO对生成式AI的怀疑加深
自OpenAI的ChatGPT公开发布两年以来,供应商竞相推出数百项生成式AI功能并承诺变革性收益,但CIO们的热情已明显降温。规模化部署的复杂性、成本攀升、项目失败率高等问题,促使企业更注重治理与务实用例。

自OpenAI的ChatGPT公开发布两年以来,供应商竞相抓住势头,推出数百项生成式AI功能,并承诺带来变革性收益。
但CIO们已不再像AI竞赛刚启动时那样充满幻想。
ChatGPT的易用性和新颖性吸引了寻求快速生产力提升的企业。然而,领导者们发现,规模化部署生成式AI远比极简聊天机器人界面所暗示的要困难和复杂得多。
“整个行业普遍存在一个问题:人们将工具等同于生产力,”Liberty Mutual子公司Liberty IT的董事总经理Tony Marron表示,“把工具交到人们手中,与赋予他们使用工具的技能,这两者之间有着巨大差别。”

如果说2023年是生成式AI实验和制定计划的一年,那么2024年企业则加速执行,但结果并不如预期。随着失败项目和未实现收益的增加,CIO对供应商的怀疑也在上升,导致对技术更加谨慎,并强调加强治理的护栏。
对于现代化程度较低的组织,采用障碍重重。
规模化项目所需的技术成熟度,促使企业加快云迁移、更新数据管理、加强安全,并启动大规模技能提升计划。尽管取得了进展,但根据Infosys上月发布的调查,仅有2%的组织拥有成功所需的人才、数据和技术。
整个行业普遍存在一个问题:人们将工具等同于生产力。

Tony Marron
Liberty IT董事总经理
在现代化进程中走得更远的组织也尚未破解成功密码,但这些组织的领导者往往更为乐观。
“情况变得更加两极分化,”波士顿咨询集团董事总经理兼合伙人Amanda Luther告诉CIO Dive。在生成式AI已产生价值的公司中,兴奋感有所增加,但普通组织“更加怀疑”,Luther在谈及与企业领导者的对话时表示。
Luther称,CIO们正承受来自各方的巨大压力。企业已投入大量资源和精力拥抱生成式AI,这凸显了交付成果的必要性。相关计划通常触及每个业务部门,使技术领导者受到更多关注和审视。
“我经常听到这样的声音:‘我们已经谈论这事两年了,谁真正看到了成果?我们投入了大量资金,却一无所获,’”Luther说,“这种论调在过去六个月里有所增加。”
与生成式AI相关的成本膨胀是技术领导者的一大担忧。当ChatGPT进入企业词汇时,人们主要免费在线使用该工具。如今,附加的生成式AI服务、内置功能或定制工具的成本正在累积。
OpenAI的ChatGPT Enterprise计划于2023年8月发布,其成本因席位数量、所需额外功能和部署范围而异,Anthropic于9月推出的Claude Enterprise也是如此。Microsoft 365 Copilot每年每位用户约需360美元,并要求单独购买符合条件的Microsoft 365计划。这是企业需要管理和监控的又一项支出,否则可能失控。
AI工作负载还推高了云成本,根据Tangoe的研究,过去一年云成本平均上涨了30%。IT领导者也将软件成本上升归咎于AI。

此外,许多生成式AI项目已经失败或从未进入生产阶段。
“我们有机会更加有意识地思考,我们真正想用AI解决什么问题,”Slack研究与分析高级副总裁Christina Janzer表示,“不要仅仅为了引入AI而引入AI。”
优先排序与定制化
企业希望获得生成式AI供应商承诺的效率和生产力。与此同时,CIO无法追逐每一个用例。
包括General Mills在内的无数组织,正努力寻找这种平衡,据General Mills首席数字与技术官Jaime Montemayor称。
ChatGPT推出后不久,General Mills便成立了一个跨职能高级领导团队,依托此前的现代化努力,为公司制定生成式AI愿景。这家食品行业巨头于2月推出了内部生成式AI工具MillsChat。公司约2万名员工使用该工具(基于Google的PaLM 2模型构建)进行写作、总结和头脑风暴。

“作为领导团队,我们处于非常有利的位置,”Montemayor在10月的CIO Dive和CFO Dive直播活动中表示,“我们确保董事会完全认同我们在生成式AI上的立场,并认识到部署生成式AI伴随一定风险。”
Montemayor表示,他每季度向高级领导团队汇报AI计划的整体成功情况,分享好与坏,以便所有人保持一致,并在必要时进行调整。
“我们在管理期望方面非常主动,但更重要的是,确保我们交付价值,”Montemayor说,“我们专注于少数几个我们知道能产生价值的领域。”
随着早期采用者在ROI和成功指标上挣扎,企业正积极缩小用例范围。根据BCG 10月发布的数据,领先组织平均处理的AI机会数量约为较不先进企业的一半。
一些公司已深刻认识到,生成式AI并非适用于所有场合的最佳工具。根据Asana 3月发布的调查,四分之一的IT领导者对如此迅速地投资AI感到后悔。
“生成式AI有许多缺陷,”Gartner数据与分析团队杰出副总裁分析师兼研究员Rita Sallam在10月的Gartner IT Symposium/Xpo上表示,“它在某些领域很强,但在其他领域较弱,而且很难提前知道哪些领域。”
随着过去两年(自ChatGPT公开发布以来)炒作消退,IT领导者通过试错、实验和最佳实践积累,也出现了从通用模型转移的趋势。
ChatGPT及其后涌现的大量类似工具,为企业提供了广泛的知识库,但有时是错误的。根据Juniper Networks 2月发布的调查,近九成技术领导者表示,可能无法知道AI输出是否准确。行业定制工具和定制模型可以让组织更好地控制训练数据集和访问管理,从而消除与幻觉和准确性相关的现有障碍。
“当企业需要在其数据、工具和产品上解决非常具体的任务时,这些系统并非开箱即用,”CrowdStrike首席技术官Elia Zaitsev告诉CIO Dive,“我们开始看到它从很大程度上是一种消费者新奇事物,转变为企业真正的解决问题工具。”
CrowdStrike正在推进多个生成式AI计划和解决方案。其中一个项目专注于将商业模型与开源和内部数据相结合。
“我们不仅仅是偶尔添加一点额外上下文,”Zaitsev说,“我们实际上是用大量网络安全和特定信息来填充它,使这些模型更加先进,更加针对我们的用例而定制。”
展望未来
随着过去两年企业战略的成熟,CIO们努力提炼优先用例并实施定制工具,以推动业务更接近目标。
BCG的Luther表示,企业在2023年广泛撒网。在广泛实验并投资ChatGPT后,2024年企业发现:“等等,这些都没有体现在我的损益表中。我无法在季度财报电话会议上谈论这个。”
尽管战略和情绪发生了转变,但有些事情可能永远不会改变,至少在ChatGPT发布后的两年里还没有。CIO可以预期供应商会继续推动生成式AI驱动的工具和服务。他们已经承诺了这一点。
企业范围的生成式AI计划也将继续充满挑战。
从人才到流程,企业面临组织和技术债务的复杂网络。创新的速度让现代化程度较低的组织措手不及。根据Hitachi Vantara的一份报告,超过一半的AI决策者担心IT团队跟上步伐的能力。
对CIO来说,交付成果的压力持续不断,但许多人决心迎接挑战。
我们开始看到它从很大程度上是一种消费者新奇事物,转变为企业真正的解决问题工具。

Elia Zaitsev
CrowdStrike首席技术官
Kroger正在整个业务中使用生成式AI,据Kroger旗下子公司84.51°的首席数据与技术官Todd James称,该公司负责这家杂货商的企业数据和AI工作。
在制定了与业务优先事项一致的战略后,这家杂货商今年通过面对面和多模式教学,努力获得员工的支持。
“我们在供应链、商品和营销领域都有业务,并且越来越多地涉及制造,”James告诉CIO Dive。他说,大多数员工都在以某种方式使用AI。
James表示,2025年的战略很简单:变得更加成熟,从项目管理和成本,到实际用例和普及访问。
“我希望让更多人掌握AI,也希望更多人参与开发,但我希望以协调有序的方式进行,”James说,“这就是我们明年重点推进的方向,因为它是为客户和员工增加价值的关键推动因素。”