简报速览

  • 随着企业超越单纯部署 AI 的阶段，高管们正努力证明技术能否可靠地交付业务成果——这是 HFS Research 与 IT 公司 TCS 于周一发布的报告的核心发现。该报告调查了美国和加拿大 100 多位 C 级高管及技术高管。
  • 报告显示，仅 1/3 受访者表示 AI 能持续交付预期成果、保持可控，并赢得监管机构、客户及高管的信任。与此同时，仅 1/4 高管认为自身具备支持企业级扩展所需的治理与管控措施，而只有 1/6 的高管信任自主 AI 处理关键工作。
  • “过去几年我们一直在问能否开始部署这些工具——更棘手的问题是，我们能否开始依赖它们，”HFS Research 执行研究主管 Dana Daher 对 CIO Dive 表示。

深度洞察

企业对 AI 的依赖能力正受到审视。由于 AI 支出上升、员工采用滞后以及监管政策不断变化，高管们开始采取更为谨慎的部署策略。

尽管 AI 正在帮助员工获取洞察并与客户建立联系，但根据 SAP 于 7 月发布的一份报告，该技术未必能节省时间或成本。不稳定的定价模式与供应商碎片化进一步加剧了成本挑战。

员工对 AI 工具的理解不足，也促使企业转向更务实的 AI 策略。Forrester 调查发现，仅 16% 的信息工作者对 AI 有高度理解。

然而，HFS Research 报告发现，在有人类参与监督的情况下，对 AI 的信任与信心仍然最高。报告指出，可靠的 AI 并不意味着杜绝所有失败，“其定义在于企业能以多快的速度检测、解释并控制一次失败。”

Daher 表示，明确的人机协同策略——界定问责层级与信任程度——对于构建可靠 AI 和管理业务中断至关重要。

“你需要培训人员，明确他们的责任范围，”Daher 说。

Daher 还指出，除了制定清晰的人类问责与监督策略外，构建可信赖、可靠的 AI 系统还需基于交付的业务成果来评估 AI。然而，报告显示，技术指标（如正常运行时间和准确性）的追踪频率高于业务成果指标。

最后，随着 AI 日益复杂，高管们越来越难以解释其决策过程。治理将成为 AI 可靠性的关键，Daher 表示。

“我们正面临一场围绕信任的巨大张力，因为我们被要求在工作和生活的方方面面采用 AI，却并不理解这些回应是如何产生的，”她说。