简报速览

  • Gartner报告发现，对所有AI智能体采用统一治理策略，将导致企业项目失败率上升。该机构预测，到2027年，40%的企业将因技术团队未能区分智能体的行动能力与其被授予的访问范围，而停用部分智能体。
  • Gartner高级总监分析师Shiva Varma向CIO Dive表示，许多团队在将工具扩展至生产环境时发现，智能体具备执行超出预期操作的能力。“很多组织要么完全没有AI治理或智能体治理，要么采用非常笼统的政策方法。”他说。
  • Gartner认为，采用比例治理方法，为不同智能体设定不同级别的权限与自主性，可帮助企业避免此类失败。

深度洞察

几乎在企业努力采用AI工具的同时，各公司就不得不为可访问敏感信息的自主智能体建立人工监督与治理政策。AI供应商也纷纷投资提供治理功能，以适应快速演进的智能体工作流。

Gartner高级总监分析师Shiva Varma表示，许多企业对待AI智能体治理采取二元方法：要么完全控制，要么完全信任。当所有智能体获得相同控制时，组织可能过度限制简单智能体，从而拖慢交付并引发影子开发；或者对自主智能体限制不足，增加安全与风险隐患。

Gartner建议采取比例治理方法，根据智能体的角色，设置四个不同级别的自主性与边界——观察、建议、批准后行动、自主行动。Varma称，主要用于阅读或总结文档的智能体可能只需基线控制，如限定数据访问范围或用户认证。

但用于提供建议或生成推荐并需人工审核的智能体，则需要更高级别的监督，如输出质量审查、幻觉测试，以及对用户进行关于适当依赖的培训。Varma指出，能够批准后行动（如发送通信或修改配置）的智能体，需要“有意义的控制”。

Gartner表示，能够自主执行独立行动的智能体需要最多的护栏。

Varma说：“那时你需要非常非常具体和谨慎地校准护栏，并确保也进行一些人工抽样。”

尽管Solvd最近调查的80%技术领导者表示，他们感到让AI项目成功的压力，但Varma指出，拥有成功护栏的企业通常与跨职能团队合作，包括技术高管、工程师、业务部门和法务团队。

他说：“治理不应只由某一个人负责，那已经是失败模式。关键在于它是一个共享的、可重复的分类过程，而不是来自单一高层的自上而下的指令。”