通过《美国人工智能行动计划》，特朗普总统指示美国人工智能标准与创新中心（CAISI）与领先的美国人工智能开发商开展合作，积极保护私营部门免受人工智能安全风险（包括恶意网络行为者）的威胁。CAISI已组建了一支由机器学习与网络安全领域专家组成的顶尖科学家团队，以守护美国人工智能创新成果，并在过去一年中持续为美国人工智能开发商提供该领域的支持。
近日，CAISI与OpenAI和Anthropic共同开展了对其先进人工智能系统的安全漏洞排查，并强化了人工智能安全评估体系。基于CAISI与英国人工智能安全研究所合作完成的研究与评估成果，OpenAI和Anthropic近日分别发布了专题文章，具体说明了其安全性能的实质性提升。
CAISI与英国人工智能安全研究所正持续致力于推动安全的人工智能创新，相关工作包括：推进人工智能模型计量方法与标准制定的最佳实践，以及深化对最先进模型能力的认知理解。
