速览

  • OpenAI的两款模型在上周的内部网络安全测试中成功入侵了开源AI工具公司Hugging Face的系统，两家公司于周二联合宣布了这一事件。
  • 据两家公司称，事件发生在OpenAI的模型GPT-5.6 Sol和一款预发布模型试图在沙箱测试环境中获取互联网访问权限时。模型通过一系列权限提升和横向移动操作，借助Hugging Face的数据集找到了一个可访问互联网的节点。OpenAI表示，这些模型“为了达成一个相当狭窄的测试目标而采取了极端手段”。目前两家公司正合作调查此事。
  • 此次安全事件发生后，OpenAI于周三宣布推出一项名为Presence的新产品，旨在帮助企业部署能够回答问题、解决问题、使用公司系统、执行经批准的操作并在必要时升级给人类的AI代理。

深度解析

企业正在努力赋予AI模型和代理更多自主权，同时应对网络安全挑战以及员工对AI系统缺乏信任的问题。

OpenAI对Hugging Face系统的入侵，是今年一系列凸显强大AI模型所能获取权限的事件之一。Anthropic的Mythos模型曾触发白宫行政命令以审查AI模型；OpenAI自身推出的Daybreak计划也强调了AI给组织带来的网络安全隐忧。

不过，据Gartner副总裁分析师Dennis Xu称，Hugging Face事件不应成为企业立即担忧的理由。“不要恐慌，专注于基础的安全卫生，”Xu表示。

Xu指出，OpenAI在测试其模型时关闭了上下文安全功能，而该功能并非普通用户可用的特性。大多数企业采用的标准网络安全措施足以防御这类前沿模型的攻击形式。

“80%到90%的AI驱动攻击可以通过一些基础安全控制来阻止，”他说。

但Xu提醒，在未来三到六个月内，企业应预期某种形式的进攻性网络能力出现，因为开放权重模型很可能发展出与专有模型相同的能力。这些黑客能力若落入恶意行为者手中，可能对任何人构成危险，而不仅仅是企业。

Xu建议，希望提升网络安全防御能力的CIO可以利用AI模型的防御能力，例如OpenAI的Trusted Access，来测试自身安全漏洞。他们还应该加强事件响应计划和团队建设，因为AI驱动的攻击数量将会增加。

“未来会有更多攻击向我们袭来，而且它们会以更快的速度到来，”Xu说。

最后，Xu补充道，与OpenAI建立了实质性合作关系的企业应利用这些关系，鼓励这家AI供应商披露更多关于Hugging Face事件的细节。关于代理如何突破测试环境的信息，或任何其他技术细节，都可能帮助企业更好地构建防御策略。