美澳等六国联合发布智能体AI安全部署指南

澳大利亚与美国政府联合英国、加拿大、新西兰等国际伙伴，于本周五（2026年5月15日）发布了一份关于安全部署智能体AI系统的指导文件。该文件旨在为企业和组织提供风险识别与管控框架，以应对智能体AI带来的独特安全挑战。

智能体AI的独特风险

指导文件指出，智能体AI的自动化能力可能引发“生产力损失、服务中断、隐私泄露或网络安全事件”。文件强调：“组织必须预判可能出错的情况，评估智能体AI风险场景对运营的影响，并建立持续的可见性与保障机制，以维持对智能体AI投资的信心。”

文件同时警告，安全使用智能体AI意味着“绝不授予其广泛或无限制的访问权限，尤其是对敏感数据或关键系统的访问”。企业“应仅将智能体AI用于低风险和非敏感任务”。

该文件由澳大利亚信号局（ASD）、美国网络安全与基础设施安全局（CISA）及国家安全局（NSA），以及英国、加拿大和新西兰对应机构联合发布。发布之际，企业正竞相将AI工具整合到工作流程中，并日益采用智能体AI来自动化重复性任务。

文件提醒，组织在评估智能体AI工具时，应充分了解其相关风险。智能体AI是复杂系统，其互联组件会产生“系统性风险”，且依赖大语言模型和外部数据源，这些可能引入自身漏洞，例如恶意构造的网页搜索结果可导致提示注入攻击。

文件指出：“智能体AI系统中的每一个独立组件都会扩大攻击面，使系统暴露于更多可利用途径。”此外，AI安全标准的不成熟，以及将以人为本的治理模式应用于自动化技术的困难，也使得智能体AI工具难以抵御破坏或故障。

文件列举了智能体AI特有的安全风险，包括权限滥用、身份欺骗、意外行为和欺骗等。同时，也列出了智能体AI与其他工具集成时可能出现的风险，如编排参数缺陷和第三方组件被篡改。

在最佳实践方面，文件建议对智能体行为实施严格控制、强化身份管理，并建立稳健的职责分离机制，以防止级联故障。企业还应定期对智能体进行评估，包括红队演练和第三方组件验证。

其他建议涵盖对智能体AI系统的持续监控、对智能体输出的验证，以及在“错误成本高昂”的情况下（如系统重置、网络出口或关键记录删除）实施人工审批。

“强有力的治理、明确的问责、严格的监控和人工监督不是可选的保障措施，而是必要的前提条件。”文件警告称，“在安全实践、评估方法和标准成熟之前，组织应假设智能体AI系统可能意外行为，并据此规划部署，优先考虑韧性、可逆性和风险遏制，而非效率提升。”