谷歌威胁情报集团(GTIG)于本周一发布报告称,一名威胁行为者成功利用人工智能(AI)开发出可用的零日漏洞。这被认为是该技术首次被实际用于此类攻击,标志着AI在网络犯罪中的角色正从理论走向现实。

据GTIG透露,此次行动旨在发起大规模漏洞利用事件,但最终未能得逞——谷歌在漏洞被武器化之前即已发现相关活动。GTIG随后通知了该漏洞的开发者,并已发布补丁以消除潜在威胁。研究人员同时表示,他们不认为名为“Mythos”的工具参与了此次开发过程。

GTIG首席分析师约翰·胡尔奎斯特(John Hultquist)在给Cybersecurity Dive的邮件中指出:“AI能够在代码层面大规模审查底层逻辑、上下文和流程,从而发现漏洞。它还可以被用来构建可用的漏洞利用代码,而后者通常是攻击中的重大障碍。”

这一事件凸显了国家关联及经济驱动的威胁组织日益利用AI来扩展和加速黑客攻击、并利用广泛使用应用中的缺陷的趋势。GTIG研究人员警告称,他们已经观察到多起其他利用AI开发漏洞的尝试,并预计未来还将出现更多采用不同模型的操作。

根据GTIG报告,与朝鲜和中国有关联的威胁组织对利用AI发现漏洞表现出浓厚兴趣。例如,被追踪为APT45的朝鲜黑客组织已使用AI,通过数千次重复提示来分析大量漏洞,并验证概念验证漏洞利用代码。

在最近涉及犯罪分子的案例中,一群黑客联合策划了一次大规模利用行动。GTIG表示,一个零日漏洞被植入Python脚本,使黑客能够绕过广泛使用的开源系统管理工具上的双因素认证。研究人员与供应商合作,披露了该漏洞并破坏了此次行动。

该报告发布之前,曾有一名不明黑客尝试使用包括Claude在内的广泛使用的AI工具,入侵墨西哥一家水务公司