近日,美国商务部国家标准与技术研究院(NIST)发布了一份信息请求(RFI),该请求将有助于履行其在最近的《关于安全、可靠和值得信赖的人工智能开发和使用的行政命令》下的职责。该命令指示NIST制定评估、红队等方面的指导方针;促进制定基于共识的标准;并为人工智能系统的评估提供测试环境。这些指导方针和基础设施将成为帮助人工智能社区安全可靠地开发和负责任地使用人工智能的资源。
“拜登总统已经明确表示,人工智能是我们这一代人的决定性技术,我们有义务永远利用人工智能的力量,同时保护人们免受其风险。作为总统行政命令的一部分,商务部正在征求行业、学术界、民间社会等的反馈意见,以便我们能够围绕人工智能的安全、安保、,美国商务部长吉娜·雷蒙多表示:“我们相信,这将使美国能够在负责任地开发和使用这项快速发展的技术方面继续引领世界。”。
对信息请求的回应将支持NIST评估与人工智能技术相关的能力,并制定行政命令中要求的各种指南。RFI特别呼吁提供与人工智能红队、生成人工智能风险管理、降低合成内容风险以及推进负责任的人工智能开发全球技术标准有关的信息。
标准与技术部副部长兼NIST主任Laurie E.Locascio表示:“随着我们开始朝着行政命令中规定的目标努力,我们期待着加强与社区的接触,以提高我们对人工智能测量和评估的理解。”。“我想邀请更广泛的人工智能社区通过这一信息请求与我们才华横溢、敬业的团队合作,以推进人工智能安全和信任的测量和实践。在我们努力建立对人工智能的有力和公正的科学理解时,我们必须收集所有观点,这有可能影响我们生活的许多领域。”
NIST通过一个公开透明的过程制定指导意见,该过程涉及来自行业、学术界、政府和民间社会的广泛利益相关者。
行政命令中与网络安全和隐私、合成核酸测序以及支持机构实施最低风险管理实践有关的NIST的其他任务将与本RFI分开处理。有关NIST在行政命令下的任务和计划的信息,以及进一步的公众参与机会,可以在NIST网站上找到。
回复将在2024年2月2日之前被接受,并将发布在www.regulations.gov上。