核心摘要

  • 美国国家标准与技术研究院（NIST）下属的AI标准与创新中心（CAISI）已与谷歌DeepMind、微软及xAI签署协议，对其前沿AI能力进行部署前评估与研究。
  • 该协议在先前与OpenAI和Anthropic宣布的合作伙伴关系基础上扩展，旨在强化AI安全，并已纳入CAISI、商务部长及唐纳德·特朗普总统去年发布的AI行动计划的指令。
  • 协议允许政府在合作AI模型向公众开放前进行评估，并在部署后持续评估。CAISI主任克里斯·福尔表示：“独立、严谨的测量科学对于理解前沿AI及其国家安全影响至关重要。”

深度解析

作为科技行业的主要政府联络点，CAISI及其行业合作伙伴关系支持信息共享、产品改进，并帮助了解美国及海外当前和未来的AI能力，NIST表示。这些合作还使NIST能够洞察AI模型可能带来的国家安全能力与风险。

特朗普在其第二任期的第一年最初采取了对AI不加监管的做法，旨在加速AI创新、建设国内AI基础设施并推进国际AI外交与安全。但《纽约时报》周一报道，政府正寻求加强对AI的监管，因为政策制定者面临国家安全官员关于强大AI模型（如Anthropic的Mythos）所带来风险的压力。诸如Project Glasswing（Anthropic识别和修复软件漏洞的努力）等举措进一步凸显了在技术采用的同时扩大治理的日益增长趋势。

CAISI框架的扩展表明，“主权对齐”将成为企业AI采购的强制性指标，The Futurum Group的AI平台副总裁兼实践负责人尼克·帕蒂恩斯在给CIO Dive的邮件中表示。

3月，国防部正式将Anthropic列为安全风险，该决定上月得到联邦法官支持，尽管该公司参与了CAISI的评估过程。帕蒂恩斯指出，这证明如果供应商的内部伦理与国家安全指令冲突，其仍可能受到制裁。

对于首席信息官（CIO）而言，与谷歌、微软和xAI的新协议是一种“政治保险”，帕蒂恩斯表示。选择一家未获得商务部及NIST青睐地位的供应商，尤其是对于拥有或希望获得联邦合同的企业来说，是一种“巨大的传染风险”。

“我们已进入一个时代，模型对国家的实用性是其在企业技术栈中长期可行性的关键预测指标，”他说。