《美国商务部宣布将美国人工智能安全研究所(USAISI)转型为支持创新和科学的美国人工智能标准与创新中心(CAISI)》

  • 编译者: 李晓萌
  • 发布时间:2025-06-24
  • 近日,在美国总统特朗普的指导下,美国商务部长Howard Lutnick宣布了他将前美国人工智能安全研究所(USAISI)改革为人工智能标准与创新中心(CAISI)的计划。

    人工智能具有巨大的潜力,能够带来变革性的进步,从而增强美国的经济和国家安全。这一改革将确保商务部利用其广泛的科学和工业专业知识,评估和理解这些快速发展的系统的能力,并识别在美国和国外开发的系统中的漏洞和威胁。

    “长期以来,审查和监管一直以国家安全的名义被滥用。创新者将不再受到这些标准的限制。人工智能标准与创新中心将评估并增强美国在这些快速发展的商业人工智能系统中的创新能力,同时确保它们符合我们的国家安全标准。”商务部长Howard Lutnick表示。

    人工智能标准与创新中心将成为美国政府内与商业人工智能系统的潜力开发和安全保障相关的测试和协作研究的主要联系点。为此,人工智能标准与创新中心将:

    ·与美国国家标准与技术研究院(NIST)组织合作,制定衡量和提升人工智能系统安全性的指南和最佳实践,并与NIST信息技术实验室及其他NIST组织合作,协助产业界制定自愿性标准。

    ·与私营部门的人工智能开发者和评估者建立自愿性协议,并主导对可能对国家安全构成风险的人工智能能力的非机密评估。在开展这些评估时,人工智能标准与创新中心(CAISI)将重点关注可证明的风险,例如网络安全、生物安全等。

    ·主导对美国及其对手的人工智能系统能力、外国人工智能系统的采用情况以及国际人工智能竞争态势的评估和分析。

    ·主导对使用对手人工智能系统可能引发的安全漏洞和恶意外国影响的评估与分析,包括是否存在backdoor病毒以及其他隐蔽的恶意行为的可能性。

    ·与其他联邦机构和实体协调,包括国防部、能源部、国土安全部、科学技术政策办公室以及情报界,共同制定评估方法,并开展评估与分析工作。

    ·在国际上代表美国的利益,防止外国政府对美国技术进行繁琐且不必要的监管,并与NIST信息技术实验室合作,确保美国在国际人工智能标准方面的主导地位。

    人工智能标准与创新中心(CAISI)将继续在NIST内运作,并定期与NIST内的其他组织(包括信息技术实验室)以及其他商务部内的其他局(包括工业与安全局,BIS)进行合作与协调。

相关报告
  • 《美国商务部长吉娜·雷蒙多宣布美国人工智能安全研究所的主要行政领导——NIST将设立美国人工智能安全研究所》

    • 来源专题:计量基标准与精密测量
    • 编译者:李晓萌
    • 发布时间:2024-04-18
    • 美国国家标准与技术研究院(NIST)将设立美国人工智能安全研究所。 近日,美国商务部长吉娜·雷蒙多(Gina Raimondo)近日宣布了领导美国人工智能安全研究所(AISI)执行领导团队的主要成员,该研究所将在美国国家标准与技术研究院(NIST)成立。Raimondo任命Elizabeth Kelly担任该研究所的首任董事,Elham Tabassi担任首席技术官。美国人工智能安全研究所是在拜登总统的指示下在NIST下成立的,以支持根据总统具有里程碑意义的行政命令分配给商务部的职责。 “为了让美国在安全、负责任的人工智能发展方面引领世界,我们需要最聪明的人掌舵。我很自豪地宣布,Elizabeth Kelly将领导人工智能安全研究所。我也很高兴Elham Tabassi将扩大她在NIST的工作,并在我们的执行领导团队中发挥核心作用。他们将共同提供我们所需的方向和专业知识,以减轻这种定义新一代技术发展带来的风险,使我们能够利用其潜力,”雷蒙多说。“多亏了拜登总统的领导,我们才有能力应对人工智能带来的挑战,同时培养美国最大的优势:创新。” “Elizabeth一直是拜登总统的人工智能行政命令背后的推动力量,以推进安全、可靠和值得信赖的人工智能。我很高兴她现在将在部长雷蒙多的领导下站在人工智能安全研究所的立场上,”总统副参谋长Bruce Reed说。 “Elizabeth Kelly是领导人工智能安全研究所的最佳人选,该研究所对管理人工智能和从人工智能中受益至关重要。她带来了对人工智能在现实世界中的影响的理解——这种强大技术的使用如何影响人类和商业。白宫科技政策办公室主任、前NIST主任Arati Prabhakar说:“我相信她将在NIST的良好记录的基础上,实现拜登总统行政命令中的指控。” “Elizabeth是一位才华横溢的领导者,她塑造了总统在科技和金融监管方面的议程,并致力于建立利益相关者的广泛联盟。她是设计和实施总统关于人工智能的行政命令的关键贡献者。伊丽莎白一直是拜登总统在白宫团队的重要成员,我们很高兴她将继续在商务部推进总统关于人工智能的议程,”国家经济顾问Lael Brainard说。 美国商务部负责标准与技术的副部长兼NIST主任Laurie E. Locascio表示:“我相信,在Elizabeth Kelly和Elham Tabassi的领导下,美国人工智能安全研究所将能够很好地发展促进人工智能安全可靠发展所需的测量科学。” “安全研究所制定指导方针、评估模型和开展基础研究的雄心勃勃的任务,对于应对人工智能的风险和抓住机遇至关重要。我很高兴能与才华横溢的NIST团队和更广泛的人工智能社区合作,推进我们的科学理解,促进人工智能安全。总统经济政策特别助理Elizabeth Kelly表示:“虽然我们的首要任务是执行拜登总统行政命令赋予NIST的任务,但我期待将该研究所建设成为国家和世界的长期资产。” “USAISI将推动美国在负责任的人工智能创新方面的全球领导地位,这将使我们的生活更美好。我们必须对这项技术、其当前和新兴的能力以及局限性有一个坚定的认识。NIST正在带头创建人工智能安全和可信赖的科学、实践和政策。我很高兴能成为这个卓越团队的一员,领导为人工智能测量和政策制定以科学为基础、以经验为基础的指导方针和标准的努力,”NIST首席人工智能顾问Elham Tabassi说。 作为AISI主任,Elizabeth Kelly将负责为AI安全研究所提供行政领导、管理和监督,并与整个国防部、NIST和整个政府的其他AI政策和技术举措进行协调。Elizabeth Kelly担任白宫国家经济委员会经济政策总统特别助理,在那里她帮助领导政府在金融监管和技术政策方面的努力,包括人工智能。Elizabeth是人工智能行政命令的国内部分背后的推动力量,率先努力促进竞争,保护隐私,支持工人和消费者,并帮助领导政府与盟友和合作伙伴就人工智能治理进行接触。她持有耶鲁大学法学院法学博士学位、牛津大学比较社会政策硕士学位和杜克大学文学士学位。 Elham Tabassi作为首席技术官,将负责领导该研究所的关键技术项目,重点支持安全、可靠和可信赖的人工智能的开发和部署。她将负责塑造NIST的工作,并与更广泛的人工智能社区一起开展研究,制定指导,并对人工智能模型(包括先进的大型语言模型)进行评估,以识别和减轻人工智能安全风险。Elham Tabassi在NIST的人工智能工作中发挥了主导作用,并于2023年被《时代》杂志评为人工智能领域100位最具影响力人物之一。作为NIST值得信赖和负责任的人工智能项目负责人,她率先开发了广受好评的NIST人工智能风险管理框架(AI RMF),这是一个自愿工具,支持更好地管理与人工智能相关的个人、组织和社会的风险。Tabassi是一名高级研究科学家,最近担任NIST信息技术实验室(ITL)新兴技术副主任。在该职位上,她帮助指导了人工智能等新兴技术领域的研究、开发、标准、测试和评估的战略方向。
  • 《美国政府宣布苹果公司签署美国人工智能安全自愿承诺》

    • 编译者:李晓萌
    • 发布时间:2024-08-20
    • 九个月前,拜登总统发布了一项具有里程碑意义的行政命令,以确保美国在把握人工智能(AI)的前景和管理风险方面处于领先地位。 这项行政命令建立在他和副总统哈里斯去年从15家美国领先的人工智能公司获得的自愿承诺之上。今天,政府宣布苹果公司已签署自愿承诺,进一步巩固了这些承诺作为负责任的人工智能创新的基石。 此外,联邦机构报告称,在按时完成迄今为止要求的所有其他任务后,他们按计划完成了行政命令中的所有270天行动。各机构在针对更长时间框架的其他工作方面也取得了进展。 根据行政命令和副总统哈里斯在全球人工智能安全峰会前的主要政策演讲中提出的一系列行动呼吁,政府各机构都采取了相关的行动。他们已采取措施减轻人工智能的安全和安保风险,保护美国人的隐私,促进公平和公民权利,为消费者和工人挺身而出,促进创新和竞争,提升美国在世界各地的领导地位等等。各机构今天报告已完成的行动包括以下内容: 管理安全和安保风险: 在270多天的时间里,行政命令指示各机构采取全面行动,解决人工智能的安全和安保风险,包括发布重要的安全指南,并建设测试和评估人工智能的能力。为了保护安全和安保,各机构已经: 1.人工智能安全研究所(AISI)发布了新的技术指南,供公众评论,该指南旨在指导领先的人工智能开发人员管理两用基础模型的误用评估。AISI的指导方针详细说明了领先的人工智能开发人员如何帮助防止越来越强大的人工智能系统被滥用来伤害个人、公共安全和国家安全,以及开发人员如何提高其产品的透明度。 2.发布了关于管理生成人工智能风险和安全开发生成人工智能系统和两用基础模型的最终框架。美国国家标准与技术研究院(NIST)的这些文件将在NIST的人工智能风险管理框架的基础上提供额外的指导,该框架为个人、组织和社会提供了一个管理人工智能风险的框架,并在美国和全球得到了广泛采用。NIST还向白宫提交了一份报告,概述了降低合成成分风险的工具和技术。 3.在能源部(DOE)开发和扩展了人工智能测试台和模型评估工具。美国能源部正在与跨部门合作伙伴协调,利用其测试平台评估人工智能模型的安全性,特别是人工智能模型可能对关键基础设施、能源安全和国家安全构成的风险。美国能源部的试验台也被用于探索新的人工智能硬件和软件系统,包括提高人工智能可信度的隐私增强技术。美国国家科学基金会(NSF)还发起了一项倡议,帮助资助联邦政府以外的研究人员设计和规划人工智能测试平台。 4.报告了人工智能保护重要政府软件的试点结果。国防部(DoD)和国土安全部(DHS)报告了其人工智能试点的结果,以解决分别用于国家安全目的和文职政府的政府网络中的漏洞。这些步骤建立在先前在行政命令发布后180天内推进此类试点工作的基础上。 将人工智能人才引入政府 去年,行政命令在政府范围内发起了一场人工智能人才激增,将数百名人工智能和人工智能使能专业人员带入政府。受雇人员正在执行关键的人工智能任务,例如告知使用人工智能进行许可的努力,为整个联邦政府的人工智能投资提供建议,以及为政府使用人工智能制定政策。 1.为了提高整个联邦政府在国家安全和非国家安全任务方面的人工智能能力,人工智能人才激增迄今已招聘了200多名员工,包括通过总统创新研究员人工智能队列和国土安全部人工智能团队。 2.在人工智能人才激增6个月报告的基础上,白宫科技政策办公室宣布了整个技术生态系统的新承诺,包括近1亿美元的资金,以支持更广泛的公共利益技术生态系统,并为将技术人员带入政府服务建立基础设施。 推进负责任的人工智能创新 拜登总统的行政命令指示采取进一步行动,抓住人工智能的希望,深化美国在人工智能创新方面的领先地位,同时确保人工智能在我们的经济和社会中负责任地发展和使用。在270天内,各机构已经: 1.编制并将很快发布一份关于两用基础模型的潜在收益、风险和影响的报告,其中模型权重广泛可用,包括相关政策建议。商务部的报告借鉴了与专家和利益相关者的广泛联系,包括就这一主题提交的数百条公众意见。 2.通过国家人工智能研究资源(NAIRR)试点,80多个研究团队获得了计算和其他人工智能资源的访问权限,该试点是由美国国家科学基金会领导的国家基础设施,与美国能源部、美国国立卫生研究院和其他政府和非政府合作伙伴合作,为支持国家的人工智能研究和教育界提供可用资源。支持的项目将解决深度伪造检测问题,提高人工智能安全性,实现下一代医疗诊断,并进一步推进其他关键的人工智能优先事项。 3.发布了一份设计用于教育的安全、可靠和值得信赖的人工智能工具的指南。教育部的指南讨论了教育技术开发人员如何设计有利于学生和教师的人工智能,同时促进公平、民权、信任和透明度。这项工作以该部门2023年的报告为基础,该报告概述了在教学中使用人工智能的建议。 4.发布了关于评估涉及人工智能技术以及其他新兴技术的发明的专利权利要求资格的指南。美国专利商标局的指导将指导人工智能领域的发明者保护他们的人工智能发明,并协助专利审查员审查人工智能发明的专利申请。 5.发布了一份关于过去四年联邦研发(R&D)的报告,以推进可信赖的人工智能。美国国家科学技术委员会的报告审查了近30亿美元的年度联邦人工智能研发预算。 6.启动了一项2300万美元的计划,旨在促进使用隐私增强技术来解决现实世界的问题,包括与人工智能相关的问题。NSF将与行业和机构合作伙伴合作,通过其新的“隐私保护数据共享实践”计划进行投资,努力为特定用例应用、成熟和扩展隐私增强技术,并建立测试平台以加速其采用。 7.宣布进一步投资数百万美元,以促进全社会负责任的人工智能开发和使用。其中包括通过NSF的新兴和新技术体验式学习计划投资3000万美元,该计划支持人工智能等领域的包容性体验式学习,以及通过NSF的ExpandAI计划投资1000万美元,这有助于在少数族裔服务机构建立人工智能研究能力,同时培养多样化、人工智能就绪的劳动力。 提升美国在海外的领导地位 拜登总统的行政命令强调,美国领导全球努力释放人工智能的潜力并应对其挑战。为了提升美国在人工智能领域的领导地位,各机构已经: 1.发布了美国参与全球人工智能标准的全面计划。该计划由NIST制定,纳入了广泛的公共和私营部门的投入,确定了人工智能标准工作的目标和优先领域,并为包括美国机构在内的美国利益相关者制定了行动。NIST和其他机构将在180天内报告优先行动。 2.制定了管理人工智能对人权构成的风险的指导方针。国务院与美国国家标准与技术研究院和美国国际开发署密切协调制定的“人工智能与人权风险管理概况”向世界各国政府、私营部门和民间社会推荐了基于NIST人工智能风险管理框架的行动,以识别和管理人工智能的设计、开发、部署和使用带来的人权风险。 3.启动了一个由人工智能安全研究所和其他政府支持的科学办公室组成的全球网络,以在技术层面推进人工智能安全。该网络将加速关键信息交换,并推动共同或兼容的安全评估和政策。 4.发起了一项具有里程碑意义的联合国大会决议。该决议获得一致通过,有100多个共同提案国,为世界各国制定了一个共同愿景,即促进安全可靠地使用人工智能来应对全球挑战。 5.扩大全球对美国领导的《关于负责任地使用人工智能和自主性的政治宣言》的支持。55个国家现在支持该政治宣言,该宣言概述了负责任地开发、部署和使用军事人工智能能力的一套规范。