AI安全事件致企业损失超200万美元，IT部门成影子AI最大源头

在诸如OpenAI“ rogue AI 黑客”等高风险安全事件占据新闻头条之际，企业领导者正面临自身的AI困境：如何在快速采用与日益增长的安全风险之间取得平衡。

安全事件正在给企业造成严重资本损失。根据安全平台提供商WitnessAI对300名企业决策者的一项调查，超过40%的受访者表示，过去一年中AI相关事件给其组织造成了200万美元或更多的损失。

与此同时，91%的受访者表示担忧AI代理正在增加其财务风险敞口，86%的受访者称在过去12个月内调查过一起或多起AI相关安全或运营事件。

然而，企业仍在推进采用，根据德勤《企业AI现状》报告，2025年员工对AI的访问量激增50%。

“这似乎是我记忆中第一次风险没有让任何人放慢脚步，”WitnessAI首席执行官Rick Caccia告诉Channel Dive。“通常，你会看到风险，安全部门会踩刹车，而且刹车确实有效。而这次的情况是刹车没有被踩下，即使踩了也不起作用。因此，尽管存在所有这些风险，采用仍在非常迅速地发生。”

影子AI——即企业员工未经授权使用AI工具——是企业面临的最大安全风险之一。

“每一次提示、上传或查询都可能是一次泄露，”AWS云安全专家Aditya Patel在云安全联盟博客文章中写道。“问题不仅在于数量——更在于速度。AI的自学习特性意味着风险会更快地累积。”

令人惊讶的是，受访者表示IT/基础设施部门是影子AI活动的最大来源。根据WitnessAI，负责治理组织内AI使用的部门，也是最有可能在其自身政策之外运作的部门。

在这种混乱中，公司正将相当大比例的AI预算用于风险管理和治理——超过一半的公司将AI支出的21%至45%用于这些工作——然而风险所有权仍不明确，Caccia说。

“是CFO？是CEO？是法务？到底谁负责控制AI风险？”他说。

调查还揭示了企业高管与副总裁级决策者之间的显著认知差距。68%的C级受访者表示对其AI工具、模型和代理访问公司数据的可见性有信心，而只有46%的副总裁持同样信心。

对于应对安全事件的企业，AI可见性是首要任务。你看不到的东西就无法控制，Caccia说。

对于渠道合作伙伴而言，企业AI安全挑战代表着巨大的商业机会。

“这对渠道合作伙伴来说是一个世代性的机会，因为你的客户群正在努力弄清楚这一切，”Caccia说。“这是帮助你的客户制定真正战略和真正解决方案的机会。”