AI智能体正迅速改变企业的运营方式，重塑使用者的网络安全格局，并将风险扩散至业务的各个层面。

部署该技术的吸引力巨大。根据Gartner近期报告，企业预计将把生成式AI模型和AI智能体的支出增加一倍以上，2026年将额外投入60亿美元。部分组织表示，智能体系统用于非常具体的任务，而另一些组织则已将AI嵌入人类决策流程，并计划在多数情况下无需人工干预即可运行。

过去一个月中，Anthropic的Mythos和OpenAI推出的Daybreak计划等更强大的新模型，凸显了智能体AI能够获取的访问权限之大。高管们必须引导组织采用新的风险管理模式，以适应智能体时代网络安全格局的变化。

根据Okta近期报告，超过半数的高管表示，其组织去年遭遇过AI相关的安全事件或险些发生事故。随着网络风险日益受到关注，AI供应商自身也开始涉足企业AI安全管理领域。

尽管许多企业迅速跟风智能体AI的热潮，但技术领导者正意识到，它们给组织带来了复杂的利弊组合，Gartner高级总监分析师Shiva Varma对CIO Dive表示。智能体AI正在改变企业面临的风险类型和频率，并使安全成为跨组织的共同责任。

“它们并不能解决所有问题，它们伴随大量风险，而且运行成本高昂，”Varma说。

新的风险格局

天普大学网络安全教授Aunshul Rege表示，智能体AI已超越生成文本、图像或代码的能力，开始承担决策和任务执行，履行传统上由人类员工完成的工作。

一个普通的智能体可能访问互联网、查询数据库，或在整个企业的知识库中检索敏感信息。由于AI智能体被赋予这种自主性，其权限必须得到仔细考量，Forrester高级分析师Janet Worthington说。

Worthington表示，她观察到一种趋势：客户为了追求生产力而给予智能体过大的权限。尽管企业为员工制定了AI使用指南或政策，但智能体是为完成任务而构建的，Worthington说，它们往往不惜一切代价。当企业将智能体嵌入系统后，它们可能学会绕过安全障碍或防护栏，即使遇到安全相关的路障也会设法克服。

“每次它们执行一个动作，都会从中学习，因此当它们在现实世界中遇到问题、被要求做某事时，它们会回头学习并尝试不同的方式，”Worthington说。

人类也会这样操作，她说。但智能体不会“下班”，她补充道。

“如果我们不开始将这些智能体视为独立的身份并加以约束，那么我们将看到更多问题，”Worthington说。

国家网络安全联盟信息安全与参与总监Cliff Steinhauer将智能体AI的兴起比作十年前的云革命。企业正从运营自己的设备和流程转向自动化。

“当我们采用新工具时，风险量会发生变化，”Steinhauer说。“这是一种新技能，需要管理的内容比以往多得多。”

除了过度越权的智能体，该技术还使企业更容易受到恶意外部攻击，Rege说，因为人类行为和信任仍扮演重要角色。员工可能开始像信任人类同事一样信任自动化系统。

“许多攻击之所以成功，是因为它们利用了人、工作流程和组织协议，”Rege说。

谁对安全的AI负责？

从历史上看，网络安全一直是CISO或IT部门的职责。但整个组织使用的AI系统正在打破这种结构，Rege说。技术高管面临的最大挑战不再是控制，而是协调组织的技术战略，德勤最近发现。

人力资源部门可能使用AI进行招聘，财务部门可能使用智能体进行采购或分析，法务团队可能使用AI处理合同。安全团队无法孤立地管理所有这些决策。

“我认为我们看到的是向共同责任的转变，”Rege说。

像CIO这样的技术领导者可能负责决定使用哪些AI模型，而网络安全团队则实施控制，Steinhauer说。人力资源和其他以人为本的团队可能负责执行政策违规处理。

“让这些团队保持一致非常重要，”Steinhauer说。

CISO的角色也在变化，Worthington说。该角色正演变为组织内的信任与保证权威，必须考虑AI的产出、这些产出是否可审计，以及如何向董事会解释结果。

Steinhauer表示，他看到AI管理职位被添加到C级高管层，例如首席AI官。

“AI的问题在于它能做很多事，但缺乏背景信息，所以你需要一个了解业务的人，能够理解你业务的背景，”Steinhauer说。“他们能回答：‘这是我们使用AI所期望的输出吗？’”

安全与治理

AI的推出与对治理的渴望相伴而生，尽管许多组织难以确定应适用哪些指导原则。但仅仅拥有治理政策并不意味着安全风险就消失了，Rege说。

高管应将治理视为一套规则，规定人类员工应如何使用AI，Steinhauer说。这正是组织应寻求协作的地方，以便各部门都能理解预期。

“治理会提出这样的问题：我们应该使用这个系统吗？它允许做出哪些决策？如果出了问题谁负责？”Rege说。“需要何种程度的人类监督？”

与此同时，安全策略侧重于保护系统、数据和基础设施免受侵害。它更贴近网络安全团队的传统目标。

安全、治理和风险管理应循环审查，政策可能会随着技术发展和组织确定哪些工具必不可少而不断调整。

“组织应抵制将AI视为魔法或灾难的诱惑，”Rege说。“更好的方法是结构化且基于风险。”