简要概览

  • Red Hat 于周二宣布收购总部位于伦敦的 Chatterbox Labs，该公司提供模型测试和生成式 AI 防护。交易条款未立即披露。
  • Red Hat 表示，此次收购将为其 AI 产品组合增添自动化 AI 风险评估、安全测试和治理能力。
  • Red Hat AI 工程与产品战略副总裁 Steven Huels 在博客文章中写道：“企业正以极快的速度将 AI 从实验室推向生产，这加剧了对可信、安全和透明 AI 部署的紧迫性。”

深度洞察

Red Hat 的最新收购表明，安全性、信任和治理正成为 AI 供应商争夺企业支出的关键要素。该交易为公司产品组合带来了额外的透明度和治理能力。

Chatterbox Labs 的 AI 风险指标旨在帮助组织根据国际法规验证其数据和模型，提供与模型无关的测试，涵盖鲁棒性、公平性和可解释性。

作为交易的一部分，Red Hat 将获得“AI 安全”能力，包括生成式 AI 防护、模型透明度、预测性 AI 验证和执行仪表板。

此次收购还建立在 10 月发布的 Red Hat AI 3 之上，该版本引入了对代理式 AI 和模型上下文协议（Model Context Protocol）的支持，后者是 Anthropic 开发的开放标准，已被迅速采用。

对 Red Hat 而言，此类产品填补了一个关键空白，因为企业正将 AI 从实验推向生产，并开始依赖与客户和核心业务流程直接交互的系统，这引发了对偏见、模型漏洞和监管风险的担忧。

此举正值治理难以跟上采用步伐之际。

10 月发布的 EY 调查发现，超过五分之三的组织曾遭受至少 100 万美元的 AI 相关风险损失，而治理能为这类威胁提供可衡量的缓冲。同一调查还发现，制定了明确负责任 AI 原则的组织，其风险比没有正式框架的组织低 30%。

然而，意识仅缓慢转化为实际行动：Collibra 的一项调查发现，只有不到一半的技术决策者已正式制定治理政策和框架。