登录
 机构网站
  1. 首页
  2. 情报产品
  3. 快讯详情

《美国政府宣布拜登总统关于人工智能行政命令后的关键行动》

  • 来源专题：计量基标准与精密测量
  • 编译者： 李晓萌
  • 发布时间：2024-04-18

  • 三个月前，拜登总统发布了一项具有里程碑意义的行政命令，以确保美国在抓住人工智能的承诺和管理人工智能的风险方面处于领先地位。该命令指示采取全面行动，加强人工智能的安全保障，保护美国人的隐私，促进公平和公民权利，维护消费者和工人的权益，促进创新和竞争，提高美国在世界各地的领导地位等等。

    今天，副幕僚长布鲁斯·里德将召集白宫人工智能委员会，该委员会由来自多个联邦部门和机构的高级官员组成。各机构报告称，他们已经完成了行政长官指定的所有90天行动，并提出了命令在更长时间内指定的其他重要指令。

    总之，这些活动标志着在实现EO的授权方面取得了重大进展，即保护美国人免受人工智能系统的潜在风险，同时促进人工智能及其他领域的创新。

    管理安全和安保风险

    该行政命令指示在90天内采取一系列全面行动，以应对人工智能对安全保障的一些最大威胁。其中包括为最强大系统的开发者设定关键披露要求，评估人工智能对关键基础设施的风险，以及阻碍外国行为者为有害目的开发人工智能。为了减轻这些风险和其他风险，各机构必须：

    ·利用《国防生产法》授权，迫使最强大的人工智能系统的开发者向商务部报告重要信息，尤其是人工智能安全测试结果。这些公司现在必须在最强大的人工智能系统上共享这些信息，他们也必须报告能够训练这些系统的大型计算集群。

    ·提出了一项规则草案，提议强制为外国人工智能培训提供计算能力的美国云公司报告他们正在这样做。如果按照提议最终确定，商务部的提议将要求云提供商在外国客户培训最强大的模型时提醒政府，这些模型可能被用于恶意活动。

    ·完成了涵盖人工智能在每个关键基础设施部门的使用的风险评估。包括国防部、交通部、财政部和卫生与公众服务部在内的九个机构向国土安全部提交了风险评估。这些评估将是联邦政府继续采取行动的基础，确保美国在将人工智能安全地融入社会的重要方面（如电网）方面走在了前列。

    创新人工智能

    为了抓住人工智能的巨大前景，加深美国在人工智能创新方面的领先地位，拜登总统的行政命令指示增加对人工智能创新的投资，并做出新的努力，吸引和培训具有人工智能专业知识的工人。在过去的90天里，各机构：

    ·启动了国家人工智能研究资源试点——促进广泛的创新、竞争和更公平地获得人工智能研究。该试点由美国国家科学基金会（NSF）管理，是向研究人员和学生提供计算能力、数据、软件、开放和专有人工智能模型以及其他人工智能培训资源的国家基础设施迈出的第一步。这些资源来自11个联邦机构合作伙伴和25多个私营部门、非营利组织和慈善合作伙伴。

    ·启动了人工智能人才激增，以加快在联邦政府招聘人工智能专业人员，包括通过大规模招聘数据科学家。拜登总统的首席执行官创建的人工智能和技术人才工作组率先采取了这一招聘行动，并正在协调其他关键举措，以促进人工智能人才的招聘。人事管理办公室授予联邦机构灵活的招聘权限，包括直接招聘权限和例外服务权限，以招聘人工智能人才。2024年，包括总统创新研究员、美国数字军团和美国数字服务在内的政府范围内的技术人才计划，在高度优先的人工智能项目中扩大了对人工智能人才的招聘。

    ·启动EducationAI倡议，帮助资助教育工作者在K-12至本科生阶段创造高质量、包容性的人工智能教育机会。该倡议的启动有助于履行行政命令对美国国家科学基金会优先考虑人工智能相关劳动力发展的要求，这对推进未来的人工智能创新和确保所有美国人都能从人工智能创造的机会中受益至关重要。

    ·宣布资助新的区域创新引擎（NSF引擎），包括专注于推进人工智能。例如，Piedmont Triad再生医学引擎的初始投资在两年内为1500万美元，在未来十年内高达1.6亿美元，它将利用世界上最大的再生医学集群来创建和扩大突破性的临床疗法，包括利用人工智能。该公告支持行政命令的指示，即美国国家科学基金会在150天内资助并推出以人工智能为重点的美国国家科学委员会引擎。

    ·在卫生与公众服务部成立了一个人工智能工作组，以制定政策，明确监管并促进医疗保健领域的人工智能创新。例如，工作组将开发评估人工智能工具和框架的方法，用于人工智能推动药物开发、支持公共卫生和改善医疗保健服务。工作组已经协调工作，发布了解决医疗算法中种族偏见的指导原则。

301浏览量
原文链接
相关报告

  • 《美国白宫发布拜登政府人工智能行动行政命令一周年以来，人工智能领域的关键成就》
    • 编译者：李晓萌
    • 发布时间：2024-12-06
    • 2023年10月30日，美国总统拜登签署发布《安全、稳定、可信的人工智能》行政命令，以确保美国在把握人工智能（AI）的前景和管理风险方面处于领先地位。该行政命令指示采取全面行动，管理人工智能的安全和安保风险，保护美国人的隐私，促进公平和民权，为消费者和工人挺身而出，促进创新和竞争，提升美国在世界各地的领导地位等。 2024年10月30日，拜登-哈里斯政府宣布，联邦机构已按计划完成了行政命令在过去一年中赋予的每一项行动——总共一百多项。以下是自拜登总统签署行政命令以来，政府在管理人工智能风险和抓住其前景方面取得的一些最重要的成就。 管理安全和安保风险： 该行政命令指示了有史以来最大胆的行动，以保护美国人免受广泛的人工智能安全和安保风险，包括与危险生物材料、软件漏洞以及外国行为者为有害目的开发人工智能有关的风险。在过去的一年里，为了保护安全和安保，各机构采取了以下措施： ·利用《国防生产法》的授权，要求最强大的人工智能系统的开发人员向美国政府报告重要信息，包括安全和安保测试的结果。这些公司已将其红队安全测试的结果、训练强大模型的计划以及他们拥有的能够进行此类训练的大型计算集群通知了DOC。上个月，DOC提出了一项规定，要求每季度报告一次这些信息。 ·引领人工智能安全测试和评估，推进人工智能安全科学。美国DOC下属的美国人工智能安全研究所（US AISI）通过最近与两家领先的人工智能开发商签署的协议，开始对主要的新人工智能模型进行部署前测试。美国能源部（DOE）开发并扩展了其人工智能试验台和评估工具，并已将其用于测试模型对核安全的风险。 ·开发了管理人工智能风险的指导和工具。美国AISI和美国DOC国家标准与技术研究所（NIST）发布了与生成人工智能和两用基础模型相关的风险管理框架，本月早些时候，AISI发布了一份关于负责任地开发和使用化学和生物科学人工智能模型的信息请求。DoD（DoD）发布了其负责任的人工智能工具包，以使人工智能项目与DoD的道德原则保持一致。 ·发布了有史以来第一份关于人工智能的国家安全备忘录（NSM）。NSM指导联邦机构采取具体措施，确保美国引领世界安全、可靠和值得信赖的人工智能发展；使各机构能够利用尖端的人工智能实现国家安全目标，包括保护人权和民主价值观；这份重要文件是人工智能安全研究所的正式章程，将其指定为整个政府高级人工智能模型测试方法的中心，并将指导DoD和情报界快速、负责任地采用人工智能。NSM还指导创建了一个推进国家安全人工智能治理和风险管理的框架，该框架为根据民主价值观实施NSM提供了敏捷的指导，包括风险管理、评估、问责和透明度机制。 ·最终确定了核酸合成筛查框架，以帮助防止人工智能被滥用于工程危险生物材料。该框架由科学技术政策办公室（OSTP）制定，鼓励核酸合成提供商识别可能构成国家安全风险的基因序列，并实施客户筛查以降低滥用风险。从2025年开始，联邦机构将要求资助接受者从遵守该框架的供应商那里获得合成核酸。国土安全部（DHS）已经制定了一个初步框架，其中包含评估未来筛查机制有效性的原则。 ·成立了一个新的人工智能数据中心基础设施工作组。该工作组提供简化的政策协调，以根据经济、国家安全和环境目标推进数据中心开发运营。 ·已确定的措施--包括标记内容和提高透明度的方法，以降低人工智能生成内容带来的风险。DOC向白宫提交了一份关于解决这些风险的科学支持标准和技术的最终报告，而NIST则发起了一项挑战，即开发检测人工智能生成内容的方法。拜登总统强调，公众有权知道内容何时是人工智能生成的，各机构正在努力使用这些工具帮助美国人知道他们从政府收到的通信是真实的。 ·成立了人工智能安全与安保委员会（AISSB），就人工智能在关键基础设施中的安全使用向国土安全部部长提供建议。AISSB今年举行了三次会议，为开发、部署和促进人工智能系统问责制的实体制定了一套建议，这些系统有助于为数百万美国人提供基本服务。AISSB的工作补充了国土安全部为关键基础设施所有者和运营商制定的有史以来第一份人工智能安全和安保指南，该指南由各机构对所有关键基础设施部门的人工智能风险评估提供了信息。为了进一步帮助保护关键基础设施，财务主管部门发布了一份关于管理金融部门使用人工智能的安全风险的报告，能源部发布了对电网潜在风险的评估，以及人工智能可能增强电网弹性和我们应对威胁的能力的方法。 ·用于保护重要政府软件系统的人工智能试点。DoD和国土安全部进行了人工智能试点，以解决分别用于国家安全目的和民间政府组织的政府网络中的漏洞。 维护工人、消费者、隐私和公民权利 人工智能正在改变美国人购买的产品和服务，影响工作和工作场所，并引入或加剧隐私、公平和公民权利的风险。拜登总统的行政命令在每个领域都代表了美国人，在过去的一年里，各机构已经： ·制定了基本原则和实践，以及指导方针，以帮助保护和增强工人的能力，因为人工智能是为工作场所构建和使用的。美国劳工部（DOL）发布了人工智能原则和最佳实践，供雇主和开发人员以中心化工人福祉和提高工作质量的方式构建和使用人工智能。美国劳工部还发布了两份指导文件，以协助联邦承包商和雇主在工作场所部署人工智能时遵守工人保护法。此外，平等就业机会委员会为求职者和工人发布了资源，以了解人工智能的使用如何违反就业歧视法。 ·随着人工智能在医疗保健领域的开发和部署，保护患者的权利和安全，同时鼓励创新。美国卫生与公众服务部（HHS）制定了一项人工智能安全计划，以跟踪涉及人工智能在医疗环境中使用的有害事件，并评估这些危害的缓解措施。HHS还制定了在药物开发过程和AI设备中使用AI或AI工具的目标、目的和高级原则。此外，美国卫生与公众服务部最终确定了一项规则，该规则为人工智能和其他预测算法制定了首创的透明度要求，这些算法是经过认证的健康信息技术的一部分。卫生和公众服务部还敲定了一项民权法规，实施了《平价医疗法案》第1557条，该法案要求受保医疗机构在使用人工智能和其他形式的决策支持工具进行护理时，采取措施识别和减轻歧视。 ·为在教育中安全、可靠和值得信赖地设计和使用人工智能发布了指导和资源。 ·发布了关于人工智能在住房领域的非歧视性使用的指导方针，其中申明现有的反歧视禁令适用于人工智能在租户筛选和住房广告中的使用，同时解释了如何遵守这些义务。此外，消费者金融保护局批准了一项规则，要求用于房屋估值的算法和人工智能是公平的、非歧视的，并且没有利益冲突。 ·在管理公共福利项目时，为负责任和公平地使用人工智能和算法系统设置护栏。农业部的指导方针为州、地方、部落和地区政府如何管理在SNAP等关键福利计划中使用人工智能和自动化系统的风险提供了一个框架，而卫生和公众服务部发布了一项计划，为其监督的福利计划提供了类似主题的指导方针。 ·确认承诺防止和解决人工智能造成的非法歧视和其他伤害。司法部民权司召集联邦机构民权办公室和高级政府人员，促进人工智能和民权协调。随着人工智能等新技术在日常生活中变得越来越普遍，五个新机构也加入了2023年的承诺，以维护美国对公平、平等和正义的承诺。 ·先进的隐私保护，保护美国人免受人工智能造成或加剧的隐私风险。特别是，美国国家科学基金会（NSF）和美国能源部建立了一个研究网络，致力于推进隐私增强技术（PETs）的开发、部署和扩展，而NSF启动了2300万美元的隐私保护数据共享实践计划，为特定用例应用、成熟和扩展PETs，并建立测试平台以加速其采用。与此同时，美国能源部启动了一项6800万美元的人工智能科学研究项目，其中包括多个美国能源部国家实验室和其他机构为推进科学人工智能的PET所做的努力。DOC还制定了评估差异隐私保障的指导方针。管理和预算办公室（OMB）发布了一份信息请求书（RFI），内容涉及联邦机构收集、处理、维护、使用、共享、传播和处置包含个人身份信息的商业信息。OMB还发布了一份RFI，说明联邦机构的隐私影响评估如何更有效地减轻隐私风险，包括那些因人工智能和其他技术和数据能力进步而进一步加剧的风险。 利用人工智能行善 在过去的一年里，各机构一直在努力抓住人工智能的巨大潜力，包括与私营部门合作，促进有价值的人工智能用例的开发和使用，以及深化美国在人工智能创新方面的领先地位。为了更好地利用人工智能，各机构已经： ·启动了国家人工智能研究资源（NAIRR）试点，并授予150多个研究团队访问计算和其他人工智能资源的权限。NAIRR试点是由美国国家科学基金会（NSF）与美国能源部和其他政府和非政府合作伙伴共同领导的国家基础设施，为支持国家的人工智能研究和教育界提供可用资源。支持的研究团队跨越34个州，处理涉及深度伪造检测、人工智能安全、下一代医疗诊断、环境保护和材料工程的项目。 ·在美国各地推广人工智能教育和培训。美国能源部正在利用其国家实验室网络，到2025年培训500名新研究人员，以满足对人工智能人才的需求，而美国国家科学基金会已投资数百万美元用于培训未来人工智能领导者和创新者的计划。这些项目包括EducateAI倡议，该倡议帮助教育工作者在K-12到本科阶段创造高质量、包容性的人工智能教育机会，支持人工智能等领域的体验式学习，并在少数族裔服务机构建立人工智能研究能力。 ·扩大了顶尖人工智能科学家、工程师和企业家来美国的能力，包括澄清O-1和H-1B签证规则，并努力简化签证处理。 ·发布了一份关于两用基础模型的潜在收益、风险和影响的报告，其中模型权重广泛可用，包括相关政策建议。DOC的报告借鉴了与专家和利益相关者的广泛联系，包括就这一主题提交的数百条公众意见。 ·宣布了一项高达1亿美元的竞赛，以支持人工智能自主实验的应用，以加速对有针对性的、与行业相关的、可持续的半导体材料和工艺的研究和交付。 ·成立了两个新的国家人工智能研究所，用于构建人工智能工具，以推动经济部门、科学和工程领域的进步。9月成立的由美国国家科学基金会领导的人工智能研究院将为天文科学开发人工智能工具，并在科学学科中得到更广泛的应用。今年早些时候，NSF还资助了10个首届区域创新引擎（NSF引擎），其中7个专注于推进人工智能。 ·宣布进一步投资数百万美元，以促进全社会负责任的人工智能开发和使用。其中包括美国能源部在VoltAIc计划中投资1300万美元，用于使用人工智能简化许可程序和加速清洁能源部署，以及美国能源部投资6800万美元，资助人工智能进行科学研究，以加速科学规划，开发节能的人工智能模型和硬件。美国能源部还推出了人工智能促进科学、安全和技术前沿（FAST）倡议路线图和信息请求，以利用人工智能进行科学发现、国家安全、能源和电网弹性以及其他国家挑战，并建立在人工智能工具、模型和伙伴关系的基础上。美国国家科学基金会与慈善机构合作，宣布向美国44个多学科、多部门团队首次投资1800多万美元，以推进包括人工智能在内的技术的负责任设计、开发和部署，确保道德、法律、社区和社会因素融入技术创造的生命周期。 ·发布了有史以来第一份分析人工智能近期支持美国清洁能源经济增长潜力的报告。美国能源部的国家实验室还发布了一份长期重大挑战报告，确定了未来十年人工智能在能源方面的机遇。 ·发布了人工智能如何帮助我们实现国家最大愿望的愿景。人工智能愿景设定了目标，为所有人创造一个更好的健康和机会的未来，减缓气候变化，提高抵御能力，建立强大的基础设施和制造业，确保政府为每个美国人服务，等等。为了促进这些目标的实现，HHS推出了CATALYST，这是一个研发项目，专注于在临床试验开始前利用人工智能更好地预测药物的安全性和有效性。作为补充，总统科学技术顾问委员会还撰写了一份报告，概述了人工智能在彻底改变和加速科学发现方面的潜力。 ·发布了解决人工智能和知识产权交叉领域重要问题的指南。为了推进创新，美国专利商标局（USPTO）发布了指导文件，涉及人工智能辅助发明的可专利性、涉及人工智能技术相关发明的专利权利要求的主题资格，以及在USPTO的诉讼中使用人工智能工具。 将人工智能和人工智能人才引入政府 人工智能可以帮助政府为美国人民提供更好的结果，尽管联邦机构使用人工智能也可能带来歧视和不安全决策等风险。此外，将人工智能和支持人工智能的专业人员带入政府对于管理这些风险和机遇以及推进其他关键的人工智能任务至关重要。在过去的一年里，各机构已经： ·发布了有史以来第一个政府范围内的政策，以加强治理，降低风险，并推进联邦使用人工智能的创新。OMB的历史性政策M-24-10要求各机构在以可能影响美国人权利或安全的方式使用人工智能时实施具体的保障措施。这些保障措施包括一系列强制性风险管理实践，以可靠地评估、测试和监测人工智能对公众的影响，并为政府如何使用人工智能提供更大的透明度。OMB的政策还指示各机构指定首席人工智能官来协调其整个机构对人工智能的使用，同时扩大和提高其人工智能员工队伍的技能，消除将人工智能用于各种目的的障碍——从应对气候变化到促进公共健康和安全。 ·发布了一项政府范围内的政策，以推动联邦机构负责任地收购人工智能。OMB本月发布的M-24-18有助于确保联邦机构在获得人工智能时，拥有管理风险、促进竞争市场和合作进行战略规划所需的信息和工具。这项工作指导联邦政府——美国经济中最大的买家——通过负责任地行使其购买力来推进人工智能创新和风险管理。 ·通过人工智能人才激增，联邦政府雇佣了250多名人工智能从业者。技术人才计划加大了人工智能人才的招聘力度，总统创新研究员带来了他们的第一批人工智能人才，国土安全部建立了迄今为止有30多名成员的人工智能团队，美国数字团队为早期职业技术人员加入联邦服务提供了途径。人工智能人才在实现关键的人工智能优先事项方面发挥了重要作用，从使用人工智能提供顶级政府服务，到保护公众使用人工智能的权利和安全。 ·成立了首席人工智能委员会，以协调跨机构的最佳实践和资源共享，以实施OMB的指导，并协调机构计划和运营中人工智能的开发和使用。 ·为联邦人工智能用例清单引入了扩展的报告说明，包括识别影响权利或安全的用例，以及该机构如何根据OMB的政策应对相关风险。 ·支持公共利益技术生态系统。在人工智能人才激增的基础上，白宫宣布向政府、学术界和民间社会提供资金，支持教育和职业道路，这将有助于确保政府能够获得多样化、以任务为导向的技术人才。 ·启动了新的招聘机构，将人工智能和人工智能人才引入机构。作为人工智能人才激增的一部分，人事管理办公室（OPM）授予了新的招聘权限，包括直接招聘权限和例外服务权限，以便各机构迅速引进顶级人工智能和人工智能赋能人才，并发布了基于技能的招聘和薪酬及休假灵活性指南，以使各机构能够雇佣和留住人工智能和AI赋能人才。此外，OPM还与合作伙伴合作举办了三场全国技术到政府职业博览会，将公众与政府中的人工智能和技术工作联系起来，向3000多名求职者展示了64家联邦、州和地方政府雇主的职位。 提升美国在海外的领导地位 拜登总统的行政命令指示开展工作，领导全球努力捕捉人工智能的潜力，降低人工智能的风险，并确保人工智能的负责任治理。为了推进这些目标，政府已经： ·发起并通过了一项具有里程碑意义的联合国大会决议。该决议获得一致通过，有100多个共同提案国（包括中华人民共和国），为世界各国制定了一个共同愿景，即促进安全可靠地使用人工智能来应对全球挑战。 ·与外国领导人就加强人工智能的国际规则和规范进行了接触，包括在2023年英国人工智能安全峰会和2024年5月的人工智能首尔峰会上，副总统哈里斯代表美国出席了会议。在英国，副总统哈里斯公布了一系列美国倡议，以促进人工智能的安全和负责任的使用，包括在DOC建立AISI。 ·宣布建立人工智能安全研究所和其他政府支持的科学办公室的全球网络，以在技术层面推进人工智能安全。该网络将于11月在旧金山举行的首届网络会议上正式启动，将加速关键信息交流，推动共同或兼容的安全评估和政策。 ·扩大全球对美国领导的《关于负责任地使用人工智能和自主性的政治宣言》的支持。56个国家现在支持该政治宣言，该宣言概述了负责任地开发、部署和使用军事人工智能能力的一套规范。DoD扩大了其国际国防人工智能伙伴关系的范围，使全球负责任的人工智能实践与《政治宣言》的规范保持一致。 ·为美国参与全球人工智能标准和与人工智能相关的关键基础设施主题制定了全面的计划。NIST和DHS将分别在90天内报告根据这些计划采取的优先行动。 ·签署了欧洲委员会《人工智能与人权、民主和法治框架公约》。这是第一个关于人工智能的多边条约，有力地肯定了现有人权义务与人工智能活动的相关性，并为政府负责任地使用人工智能奠定了国际法的坚实基础。美国的签署反映了其致力于确保人工智能技术的设计、开发、使用和管理方式促进对人权和民主价值观的尊重。 ·领导制定了《人工智能技术负责任政府实践联合声明》。自由在线联盟的41个国家承诺的联合声明呼吁各国政府负责任地开发、使用和采购人工智能，包括尊重国际义务和承诺，评估人工智能系统的影响，进行持续监测，确保充分的人力培训和评估，与公众沟通和回应，并提供有效的补救措施。 ·美国国务院和美国国际开发署发布了资源，以推进全球人工智能研究和人工智能在经济发展中的应用。《全球发展中的人工智能》手册纳入了NIST人工智能风险管理框架的原则和实践，以指导人工智能在国际环境中的负责任开发和部署，而《全球人工智能研究议程》则概述了推进人工智能安全、负责任和可持续全球发展和采用的优先事项。
    992浏览量
    原文链接

  • 《美国商务部宣布执行拜登总统关于人工智能的行政命令的新行动》
    • 编译者：李晓萌
    • 发布时间：2024-06-12
    • 近日，美国商务部宣布，在拜登总统发布关于人工智能安全、可靠和值得信赖的发展的行政命令（EO）180天后，发布了几项与EO有关的新公告。美国国家标准与技术研究院（NIST）发布了四份出版物草案，旨在帮助提高人工智能系统的安全性、保障性和可信度。NIST还推出了一个挑战系列，将支持开发区分人类生产的内容和人工智能生产的内容的方法。除了NIST的出版物外，美国商务部专利商标局（USPTO）还发布了一份公众评论请求（RFC），寻求对人工智能如何影响对艺术领域普通技能水平的评估的反馈，以确定一项发明是否符合美国法律规定的专利申请，并于今年早些时候发布了人工智能辅助发明专利申请指南。 美国商务部长吉娜·雷蒙多表示：“自拜登总统颁布历史性的人工智能行政命令以来的六个月里，商务部一直在努力研究和制定安全利用人工智能潜力所需的指导意见，同时将相关风险降至最低。”。“我们今天发布的公告表明，我们致力于透明度和所有利益相关者的反馈，以及我们在短时间内取得的巨大进展。有了这些资源和国防部之前在人工智能方面的工作，我们将继续支持人工智能的负责任创新和美国的技术领导力。” NIST的出版物涵盖了人工智能技术的各个方面：前两份是指导文件，旨在帮助管理生成性人工智能的风险，该技术支持聊天机器人和基于文本的图像和视频创建工具，并分别作为NIST人工智能风险管理框架（AI RMF）和安全软件开发框架（SSDF）的配套资源。NIST的第三份出版物提供了提高数字内容透明度的方法，人工智能可以改变这些方法；第四部分提出了制定全球人工智能标准的计划。这些出版物是初稿，NIST现在正在发布，以在今年晚些时候提交最终版本之前征求公众反馈。 负责标准与技术的商务部副部长兼NIST主任Laurie E.Locascio表示：“尽管生成人工智能具有潜在的变革性好处，但它也带来了与传统软件截然不同的风险。”。“这些指导文件不仅将告知软件创作者这些独特的风险，还将帮助他们在支持创新的同时开发减轻风险的方法。” 美国专利商标局正在发布一份RFC，寻求人工智能如何影响他们在确定一项发明是否符合美国法律规定的专利时所做的评估的反馈。例如，人工智能的使用提出了什么是现有技术以及对具有本领域普通技能的人的技能水平的评估的问题。美国专利商标局希望对RFC的回应将有助于他们评估对这些问题的进一步指导的必要性，有助于制定任何此类指导，并有助于告知美国专利商标总局在法院的工作以及向国会提供技术建议。 负责知识产权的商务部副部长兼美国专利商标局局长Kathi Vidal表示：“随着人工智能在创新中发挥更大作用，我们必须鼓励负责任、安全地使用人工智能来解决当地和世界问题，发展未来的就业和产业，同时确保人工智能不会破坏知识产权在激励人类创造力和投资方面发挥的关键作用。”。“这项工作建立在我们的发明指导意见的基础上，该指导意见仔细规定了美国专利商标局何时为人工智能辅助创新颁发专利，以及我们在人工智能和所有形式的知识产权交叉点上的持续政策工作。” NIST的所有四份出版物都是首次公开草案，NIST将在2024年6月2日前就每一份征求公众意见。 缓解生成型人工智能的风险 人工智能RMF生成人工智能档案（NIST AI 600-1）可以帮助组织识别生成人工智能带来的独特风险，并提出最符合其目标和优先事项的生成人工智能风险管理行动。该指导文件是在过去一年中开发的，并借鉴了由2500多名成员组成的NIST生成人工智能公共工作组的意见，旨在成为NIST人工智能RMF用户的配套资源。人工智能档案指导文件以13种风险和开发者可采取的400多项行动为中心。 这13个风险包括以下问题：更容易获得与化学、生物、放射性或核武器有关的信息；降低了黑客、恶意软件、网络钓鱼和其他网络安全攻击的进入门槛；以及制造仇恨言论和有毒、诋毁或成见的内容。在这13个风险的详细描述之后，是开发人员可以采取的400项行动的矩阵，以减轻风险。 减少对用于训练人工智能系统的数据的威胁 第二份出版物《生成人工智能和两用基础模型的安全软件开发实践》（NIST特别出版物（SP）800-218A）旨在与SSDF（SP 800-218）一起使用。虽然SSDF广泛关注软件代码行的安全，但这一配套资源扩展了SSDF，以帮助解决对生成人工智能系统产生不利影响的恶意训练数据的问题。 除了涵盖人工智能系统的培训和使用方面，新的配套资源还提供了处理培训数据和数据收集过程的指导，包括一个确定潜在风险因素和应对策略的矩阵。在其他建议中，该文件建议分析训练数据中的中毒、偏见、同质性和篡改迹象。 降低合成内容风险 伴随着生成性人工智能的发展，人工智能创造或改变了“合成”内容。提供提高数字内容透明度的技术方法是NIST新出版物草案《降低合成内容带来的风险》（NIST AI 100-4）的目标。本出版物提供了一份关于了解人工智能EO第4.5（a）节要求NIST向白宫提供的合成内容来源和检测的单独报告，并对其进行了补充。 NIST AI 100-4列出了检测、验证和标记合成内容的方法，包括数字水印和元数据记录，其中指示内容来源或历史的信息（如图像或录音）嵌入内容中，以帮助验证其真实性。该报告不仅关注合成内容的危险性；它旨在通过理解和应用基于用例和上下文的技术方法来提高内容的透明度，从而降低合成内容的风险。 人工智能标准的全球参与 人工智能系统正在改变美国社会和世界各地。人工智能标准全球参与计划（NIST AI 100-5）旨在推动全球人工智能相关共识标准的制定和实施、合作与协调以及信息共享。 草案征求了对人工智能标准化可能急需的领域和主题的反馈意见。这些主题已准备好标准化，包括提高对数字内容来源的认识的机制，无论是真实的还是合成的；以及人工智能系统测试、评估、验证和验证的共享做法。其他主题可能需要更多的科学研究和开发，以建立对潜在标准关键组成部分的基本科学理解。 NIST GenAI 除了这四份文件，NIST还宣布了NIST GenAI，这是一个评估和测量生成人工智能技术的新项目。该项目是NIST对行政命令的回应的一部分，其努力将有助于为NIST的美国人工智能安全研究所的工作提供信息。 NIST GenAI项目将发布一系列挑战性问题，旨在评估和衡量生成人工智能技术的能力和局限性。这些评估将用于确定促进信息完整性的战略，并指导安全和负责任地使用数字内容。该项目的目标之一是帮助人们确定是人类还是人工智能制作了给定的文本、图像、视频或音频记录。5月开始注册，参与试点评估，旨在了解人工制作的内容与合成内容的区别。有关挑战和如何注册的更多信息，请访问NIST GenAI网站。 USPTO关于专利权的RFC 完整的联邦公报评论截止到2024年7月29日。为了激励、保护和鼓励对通过使用人工智能实现的创新的投资，并向公众明确人工智能辅助发明的专利性，美国专利商标局此前已在《联邦公报》上发布了指导意见。
    144浏览量
    原文链接