《NIST呼吁信息支持安全、可靠和可信赖的人工智能开发和使用》

  • 来源专题:计量基标准与精密测量
  • 编译者: 李晓萌
  • 发布时间:2024-01-24
  • 近日,美国商务部国家标准与技术研究院(NIST)发布了一份信息请求(RFI),该请求将有助于履行其在最近的《关于安全、可靠和值得信赖的人工智能开发和使用的行政命令》下的职责。该命令指示NIST制定评估、红队等方面的指导方针;促进制定基于共识的标准;并为人工智能系统的评估提供测试环境。这些指导方针和基础设施将成为帮助人工智能社区安全可靠地开发和负责任地使用人工智能的资源。

    “拜登总统已经明确表示,人工智能是我们这一代人的决定性技术,我们有义务永远利用人工智能的力量,同时保护人们免受其风险。作为总统行政命令的一部分,商务部正在征求行业、学术界、民间社会等的反馈意见,以便我们能够围绕人工智能的安全、安保、,美国商务部长吉娜·雷蒙多表示:“我们相信,这将使美国能够在负责任地开发和使用这项快速发展的技术方面继续引领世界。”。

    对信息请求的回应将支持NIST评估与人工智能技术相关的能力,并制定行政命令中要求的各种指南。RFI特别呼吁提供与人工智能红队、生成人工智能风险管理、降低合成内容风险以及推进负责任的人工智能开发全球技术标准有关的信息。

    标准与技术部副部长兼NIST主任Laurie E.Locascio表示:“随着我们开始朝着行政命令中规定的目标努力,我们期待着加强与社区的接触,以提高我们对人工智能测量和评估的理解。”。“我想邀请更广泛的人工智能社区通过这一信息请求与我们才华横溢、敬业的团队合作,以推进人工智能安全和信任的测量和实践。在我们努力建立对人工智能的有力和公正的科学理解时,我们必须收集所有观点,这有可能影响我们生活的许多领域。”

    NIST通过一个公开透明的过程制定指导意见,该过程涉及来自行业、学术界、政府和民间社会的广泛利益相关者。

    行政命令中与网络安全和隐私、合成核酸测序以及支持机构实施最低风险管理实践有关的NIST的其他任务将与本RFI分开处理。有关NIST在行政命令下的任务和计划的信息,以及进一步的公众参与机会,可以在NIST网站上找到。

    回复将在2024年2月2日之前被接受,并将发布在www.regulations.gov上。

相关报告
  • 《美国商务部和能源部签署谅解备忘录,以促进安全、可靠和值得信赖的人工智能的开发和使用》

    • 编译者:张宇
    • 发布时间:2024-12-06
    • 近日,美国能源部(DOE)宣布今年早些时候同美国商务部(DOC)下属的美国国家标准与技术研究院(NIST)签署了的谅解备忘录(MOU),旨在合作开展先进人工智能(AI)模型和系统方面的安全研究、测试和评估。 这种合作关系是拜登-哈里斯政府采取全面干预的方法确保安全、可靠和值得信赖的人工智能开发和使用的关键一步。该公告是在最近发布的首个AI国家安全备忘录之后发布的,该备忘录指定位于NIST内的美国人工智能安全研究所(US AISI)作为美国政府AI安全工作的关键研究中心。 美国商务部长吉娜·雷蒙多(Gina Raimondo)说:“通过授权我们的团队进行协同工作,与能源部的这种合作关系无疑将有助于US AISI和NIST共同推进人工智能在安全科学的框架下发展。安全是人工智能持续创新的关键,我们没有时间可以浪费,必须立即在政府内部进行合作,开展强有力的研究、测试和评估,以保护和推进重要的国家安全优先事项。” 除了促进联合研究工作和信息共享外,该协议还使US AISI和NIST能够将其技术能力和领域专业知识储备借给能源部及其国家实验室。 美国能源部长詹妮弗·格兰霍姆(Jennifer M. Granholm)表示:“毫无疑问,人工智能是科学和清洁能源突破的下一个前沿领域,这凸显了拜登-哈里斯政府以安全可靠的方式推动科学创新方面的努力。在整个联邦政府中,我们致力于推进人工智能安全,今天的合作伙伴关系确保美国人能够在未来几年内自信地从人工智能驱动的创新和繁荣中受益。 通过这份谅解备忘录,DOC和DOE打算评估AI模型对公共安全的影响,包括对关键基础设施、能源安全和国家安全的风险。包括对基于先进AI模型的化学和生物重点领域的风险进行分类评估,以及开发和评估旨在保护个人和商业专有数据的隐私增强技术。这些努力,结合能源部的人工智能测试平台,将为人工智能的安全和创新未来奠定基础。
  • 《联合国大会协商一致通过美国领导的关于“抓住安全、可靠和值得信赖的人工智能系统的机遇,促进可持续发展”的决议》

    • 来源专题:计量基标准与精密测量
    • 编译者:李晓萌
    • 发布时间:2024-04-18
    • 近日,联合国大会以协商一致的方式通过了一项由美国领导的关于抓住安全、可靠和值得信赖的人工智能系统的机遇,促进可持续发展”的决议,这是联合国大会谈判通过的第一项独立决议,旨在建立全球一致的人工智能治理方法。 美国在这方面的领导作用使所有会员国都能够赞同促进安全、可靠和值得信赖的人工智能系统以促进可持续发展的原则。该决议鼓励会员国通过以下方式推广安全、可靠和值得信赖的人工智能系统: ·与发展中国家合作,并向发展中国家提供能力建设以及技术和财政援助; ·弥合国家之间和国家内部存在的人工智能鸿沟和其他数字鸿沟; ·促进公平获取人工智能系统的好处; ·在人工智能系统的整个生命周期中尊重、保护和促进人权和基本自由; ·保护个人免受人工智能系统的一切形式的歧视、偏见、滥用或其他伤害; ·制定与人工智能系统相关的监管和治理方法及框架; ·在部署和使用之前测试人工智能系统; ·提高公众对人工智能系统适当民用的认识; ·鼓励开发识别人工智能生成的数字内容及其来源的工具; ·保护隐私和个人数据保护; ·尊重知识产权; ·减轻对劳动力的潜在负面影响;和 ·鼓励私营部门遵守适用的国际和国内法律。 该决议进一步鼓励采取行动,通过专注于健康、教育、粮食安全、能源和气候行动的应用,使人工智能生命周期所有阶段的所有社会中的所有个人受益。该决议认识到,所有国家都可以开发人工智能系统并从中受益,例如,提高农业生产力和种植有弹性的作物,以克服全球粮食不安全,帮助预测极端天气和减轻气候灾害的影响,提供准确的诊断、预测、准备和应对疾病爆发,为更健康的未来建立清洁能源基础设施模型,并为世界各地的人们打开经济机会。 社会将受益于决议中所述的加强人工智能安全保障的步骤,包括减轻人工智能系统的风险,加强保护隐私的努力;促进公平和人权;进一步的消费者和工人利益;促进改善生活的解决方案的创新和竞争。其他步骤将帮助世界各地的个人更好地确定何时使用人工智能生成内容,何时不使用人工智能。 这项决议建立在多项国际倡议的基础上,以阐明安全、可靠和值得信赖的人工智能系统的共同方法,包括英国安全峰会的《布莱切利宣言》、印度今年主办的全球人工智能伙伴关系峰会、日本去年主办的七国集团广岛人工智能进程制定的《开发先进人工智能系统组织的国际行为准则》、二十国集团值得信赖人工智能原则和经合组织人工智能原则。 美国仍然坚定地致力于这些多边努力,并已采取行动支持决议的目标: ·拜登总统采取了前所未有的措施,确保美国在抓住人工智能的承诺和管理人工智能的风险方面处于领先地位。该决议支持拜登政府2023年10月30日关于人工智能的安全、可靠和值得信赖的开发和使用的行政命令,该命令呼吁扩大双边、多边和多方利益相关者的参与,以建立利用人工智能的好处、管理其风险和确保安全的国际框架。这项决议还反映了政府致力于保护美国人免受人工智能系统的潜在风险,同时促进创新和竞争,促进公平和公民权利。 ·2023年3月,副总统哈里斯宣布设立数字经济女性基金。美国国际开发署和比尔及梅琳达·盖茨基金会共同投资6050万美元,设立了一个新基金,以加快缩小性别数字鸿沟,其中至少一半将专注于非洲。此外,私营部门承诺总额近4亿美元,支持指导美国缩小性别数字鸿沟工作的关键支柱。 ·2023年9月,布林肯部长与国会合作宣布,计划提供1500万美元的援助,以促进全球负责任地使用和治理人工智能,以及其他目标,包括利用人工智能工具帮助各国实现可持续发展目标的项目。此外,美国私营部门承诺投入2100万美元,利用人工智能支持可持续发展目标,并为400万人提供人工智能技能培训。另外,联席会议国家宣布了未来超过90亿美元的重大资金和资源,用于投资人工智能初创企业和规模扩大以及全球风险分析。 ·美国国际开发署制定了人工智能行动计划,该计划为在美国国际开发总署规划中负责任地使用人工智能制定了路线图,并正在与国务院和美国国家标准与技术研究院(NIST)合作,制定人工智能发展行动手册。美国国际开发署还与其他国际发展捐助者合作,更好地了解美国在人工智能方面的集体投资以及未来需要的资金类型。 全球对该决议的共识为人工智能治理和创新的进一步发展奠定了坚实的基础,并为包括联合国在内的未来人工智能多边和国际工作奠定了基础。