《美国商务部宣布将美国人工智能安全研究所(USAISI)转型为支持创新和科学的美国人工智能标准与创新中心(CAISI)》

  • 来源专题:计量基标准与精密测量
  • 编译者: 李晓萌
  • 发布时间:2025-06-16
  • 近日,在美国总统特朗普的指导下,美国商务部长Howard Lutnick宣布了他将前美国人工智能安全研究所(USAISI)改革为人工智能标准与创新中心(CAISI)的计划。

    人工智能具有巨大的潜力,能够带来变革性的进步,从而增强美国的经济和国家安全。这一改革将确保商务部利用其广泛的科学和工业专业知识,评估和理解这些快速发展的系统的能力,并识别在美国和国外开发的系统中的漏洞和威胁。

    “长期以来,审查和监管一直以国家安全的名义被滥用。创新者将不再受到这些标准的限制。人工智能标准与创新中心将评估并增强美国在这些快速发展的商业人工智能系统中的创新能力,同时确保它们符合我们的国家安全标准。”商务部长Howard Lutnick表示。

    人工智能标准与创新中心将成为美国政府内与商业人工智能系统的潜力开发和安全保障相关的测试和协作研究的主要联系点。为此,人工智能标准与创新中心将:

    ·与美国国家标准与技术研究院(NIST)组织合作,制定衡量和提升人工智能系统安全性的指南和最佳实践,并与NIST信息技术实验室及其他NIST组织合作,协助产业界制定自愿性标准。

    ·与私营部门的人工智能开发者和评估者建立自愿性协议,并主导对可能对国家安全构成风险的人工智能能力的非机密评估。在开展这些评估时,人工智能标准与创新中心(CAISI)将重点关注可证明的风险,例如网络安全、生物安全等。

    ·主导对美国及其对手的人工智能系统能力、外国人工智能系统的采用情况以及国际人工智能竞争态势的评估和分析。

    ·主导对使用对手人工智能系统可能引发的安全漏洞和恶意外国影响的评估与分析,包括是否存在backdoor病毒以及其他隐蔽的恶意行为的可能性。

    ·与其他联邦机构和实体协调,包括国防部、能源部、国土安全部、科学技术政策办公室以及情报界,共同制定评估方法,并开展评估与分析工作。

    ·在国际上代表美国的利益,防止外国政府对美国技术进行繁琐且不必要的监管,并与NIST信息技术实验室合作,确保美国在国际人工智能标准方面的主导地位。

    人工智能标准与创新中心(CAISI)将继续在NIST内运作,并定期与NIST内的其他组织(包括信息技术实验室)以及其他商务部内的其他局(包括工业与安全局,BIS)进行合作与协调。

  • 原文来源:https://www.commerce.gov/news/press-releases/2025/06/statement-us-secretary-commerce-howard-lutnick-transforming-us-ai
相关报告
  • 《美国人工智能标准与创新中心(CAISI)携手OpenAI与Anthropic共促安全创新》

    • 来源专题:计量基标准与精密测量
    • 编译者:李晓萌
    • 发布时间:2025-10-13
    • 通过《美国人工智能行动计划》,特朗普总统指示美国人工智能标准与创新中心(CAISI)与领先的美国人工智能开发商开展合作,积极保护私营部门免受人工智能安全风险(包括恶意网络行为者)的威胁。CAISI已组建了一支由机器学习与网络安全领域专家组成的顶尖科学家团队,以守护美国人工智能创新成果,并在过去一年中持续为美国人工智能开发商提供该领域的支持。 近日,CAISI与OpenAI和Anthropic共同开展了对其先进人工智能系统的安全漏洞排查,并强化了人工智能安全评估体系。基于CAISI与英国人工智能安全研究所合作完成的研究与评估成果,OpenAI和Anthropic近日分别发布了专题文章,具体说明了其安全性能的实质性提升。 CAISI与英国人工智能安全研究所正持续致力于推动安全的人工智能创新,相关工作包括:推进人工智能模型计量方法与标准制定的最佳实践,以及深化对最先进模型能力的认知理解。
  • 《美国人工智能安全研究所成立新的美国政府特别工作组,合作研究和测试人工智能模型》

    • 来源专题:计量基标准与精密测量
    • 编译者:李晓萌
    • 发布时间:2024-11-25
    • 近日,美国商务部国家标准与技术研究院(NIST)下属的美国人工智能安全研究所宣布成立人工智能国家安全风险测试(TRAINS)工作组,该工作组汇集了美国政府各部门的合作伙伴,以识别、衡量和管理快速发展的人工智能技术对国家安全和公共安全的新兴影响。这一消息发布之际,美国将在旧金山主办首次人工智能安全研究所国际网络会议。 该工作组将在关键的国家安全和公共安全领域,如辐射和核安全、化学和生物安全、网络安全、关键基础设施、常规军事能力等,对先进的人工智能模型进行协调研究和测试。 这些努力将推动美国政府保持美国在人工智能发展方面的领导地位,并防止对手滥用美国的创新来破坏国家安全。 TRAINS工作组由美国人工智能安全研究所担任主席,最初由以下联邦机构代表组成: ·DoD,包括首席数字和人工智能办公室(CDAO)等; ·能源部及其10个国家实验室; ·国土安全部; ·美国国立卫生研究院(NIH)卫生与公众服务部。 每个成员将向工作组提供其独特的主题专业知识、技术基础设施和资源,并将合作开发新的人工智能评估方法和基准,以及进行联合国家安全风险评估和红队演习。 美国商务部长吉娜·雷蒙多表示:“实现安全、可靠和值得信赖的人工智能创新不仅是经济优先事项,也是公共安全和国家安全的当务之急。”。“这个国家的每个角落都受到人工智能快速发展的影响,这就是为什么建立TRAINS工作组是团结我们的联邦资源并确保我们全力以赴应对这一代定义技术挑战的重要一步。美国人工智能安全研究所将继续发挥领导作用,集中政府中存在的顶尖国家安全和人工智能专业知识,以利用人工智能的好处来改善美国人民和美国企业。” 这项工作按照最近的《国家安全人工智能备忘录》的指导,将整个政府的人工智能安全方法付诸实施,随着工作的继续,TRAINS工作组预计将在整个联邦政府中扩大其成员。