简报

  • 网络安全行业高度关注AI如何帮助黑客更快分析漏洞、编写更精良的恶意软件，但新报告指出，AI在模仿企业领导者方面的进步同样影响深远。
  • 今年，超过半数（53%）的组织遭遇针对高管或基层员工的冒充攻击，安全公司Outtake在6月4日发布的报告中如此表示。
  • 同时，报告发现，Outtake调查的受访者中，四分之三仅进行有限的冒充监控，或仅在攻击发生时被动应对。

深度洞察

AI生成逼真虚假媒体的能力，为企业对抗冒充骗局开辟了“第二战场”，Outtake在基于对1100多名网络安全和风险管理领导者调查的报告中指出。

报告显示，近半数（47%）企业“已遭遇确认或疑似的高管或品牌代表合成媒体冒充”。此外，企业将AI生成的攻击视为其防冒充策略中最大的可见性缺口。

“人是暴露面最大、防护最薄弱的攻击面，”Outtake表示。报告称，仅43%的企业开展涉及高管层的身份欺骗模拟，以识别最大的潜在冒充风险。

报告发现，在智能体技术方面，企业的AI威胁准备情况同样不容乐观。Outtake指出，企业大多未能有效监督和保护这些智能体，这加剧了智能体劫持攻击的风险，可能损害企业声誉或财务。仅4%的企业表示完全监控和控制其AI智能体。

报告举例说明：会计部门的AI智能体收到一封看似无害的付款查询邮件，其中包含隐藏代码，覆盖智能体的编程，迫使其与不可信第三方共享信息。

“智能体现在处于新的信任边界：一只脚在不可信的外部世界，另一只在可信的内部系统，”Outtake说，“植入的指令跨越了它们之间的边界。”

报告还发现，治理碎片化是企业另一主要弱点。21%的企业没有专门团队负责评估和管理数字信任风险；安全运营中心在18%的企业中负责此责，欺诈与安全团队占13%，威胁情报团队占11%。超过60%的企业将其数字信任风险管理活动描述为碎片化和孤岛化。