近日，美国商务部宣布，在拜登总统发布关于人工智能安全、可靠和值得信赖的发展的行政命令（EO）180天后，发布了几项与EO有关的新公告。美国国家标准与技术研究院（NIST）发布了四份出版物草案，旨在帮助提高人工智能系统的安全性、保障性和可信度。NIST还推出了一个挑战系列，将支持开发区分人类生产的内容和人工智能生产的内容的方法。除了NIST的出版物外，美国商务部专利商标局（USPTO）还发布了一份公众评论请求（RFC），寻求对人工智能如何影响对艺术领域普通技能水平的评估的反馈，以确定一项发明是否符合美国法律规定的专利申请，并于今年早些时候发布了人工智能辅助发明专利申请指南。
美国商务部长吉娜·雷蒙多表示：“自拜登总统颁布历史性的人工智能行政命令以来的六个月里，商务部一直在努力研究和制定安全利用人工智能潜力所需的指导意见，同时将相关风险降至最低。”。“我们今天发布的公告表明，我们致力于透明度和所有利益相关者的反馈，以及我们在短时间内取得的巨大进展。有了这些资源和国防部之前在人工智能方面的工作，我们将继续支持人工智能的负责任创新和美国的技术领导力。”
NIST的出版物涵盖了人工智能技术的各个方面：前两份是指导文件，旨在帮助管理生成性人工智能的风险，该技术支持聊天机器人和基于文本的图像和视频创建工具，并分别作为NIST人工智能风险管理框架（AI RMF）和安全软件开发框架（SSDF）的配套资源。NIST的第三份出版物提供了提高数字内容透明度的方法，人工智能可以改变这些方法；第四部分提出了制定全球人工智能标准的计划。这些出版物是初稿，NIST现在正在发布，以在今年晚些时候提交最终版本之前征求公众反馈。
负责标准与技术的商务部副部长兼NIST主任Laurie E.Locascio表示：“尽管生成人工智能具有潜在的变革性好处，但它也带来了与传统软件截然不同的风险。”。“这些指导文件不仅将告知软件创作者这些独特的风险，还将帮助他们在支持创新的同时开发减轻风险的方法。”
美国专利商标局正在发布一份RFC，寻求人工智能如何影响他们在确定一项发明是否符合美国法律规定的专利时所做的评估的反馈。例如，人工智能的使用提出了什么是现有技术以及对具有本领域普通技能的人的技能水平的评估的问题。美国专利商标局希望对RFC的回应将有助于他们评估对这些问题的进一步指导的必要性，有助于制定任何此类指导，并有助于告知美国专利商标总局在法院的工作以及向国会提供技术建议。
负责知识产权的商务部副部长兼美国专利商标局局长Kathi Vidal表示：“随着人工智能在创新中发挥更大作用，我们必须鼓励负责任、安全地使用人工智能来解决当地和世界问题，发展未来的就业和产业，同时确保人工智能不会破坏知识产权在激励人类创造力和投资方面发挥的关键作用。”。“这项工作建立在我们的发明指导意见的基础上，该指导意见仔细规定了美国专利商标局何时为人工智能辅助创新颁发专利，以及我们在人工智能和所有形式的知识产权交叉点上的持续政策工作。”
NIST的所有四份出版物都是首次公开草案，NIST将在2024年6月2日前就每一份征求公众意见。
缓解生成型人工智能的风险
人工智能RMF生成人工智能档案（NIST AI 600-1）可以帮助组织识别生成人工智能带来的独特风险，并提出最符合其目标和优先事项的生成人工智能风险管理行动。该指导文件是在过去一年中开发的，并借鉴了由2500多名成员组成的NIST生成人工智能公共工作组的意见，旨在成为NIST人工智能RMF用户的配套资源。人工智能档案指导文件以13种风险和开发者可采取的400多项行动为中心。
这13个风险包括以下问题：更容易获得与化学、生物、放射性或核武器有关的信息；降低了黑客、恶意软件、网络钓鱼和其他网络安全攻击的进入门槛；以及制造仇恨言论和有毒、诋毁或成见的内容。在这13个风险的详细描述之后，是开发人员可以采取的400项行动的矩阵，以减轻风险。
减少对用于训练人工智能系统的数据的威胁
第二份出版物《生成人工智能和两用基础模型的安全软件开发实践》（NIST特别出版物（SP）800-218A）旨在与SSDF（SP 800-218）一起使用。虽然SSDF广泛关注软件代码行的安全，但这一配套资源扩展了SSDF，以帮助解决对生成人工智能系统产生不利影响的恶意训练数据的问题。
除了涵盖人工智能系统的培训和使用方面，新的配套资源还提供了处理培训数据和数据收集过程的指导，包括一个确定潜在风险因素和应对策略的矩阵。在其他建议中，该文件建议分析训练数据中的中毒、偏见、同质性和篡改迹象。
降低合成内容风险
伴随着生成性人工智能的发展，人工智能创造或改变了“合成”内容。提供提高数字内容透明度的技术方法是NIST新出版物草案《降低合成内容带来的风险》（NIST AI 100-4）的目标。本出版物提供了一份关于了解人工智能EO第4.5（a）节要求NIST向白宫提供的合成内容来源和检测的单独报告，并对其进行了补充。
NIST AI 100-4列出了检测、验证和标记合成内容的方法，包括数字水印和元数据记录，其中指示内容来源或历史的信息（如图像或录音）嵌入内容中，以帮助验证其真实性。该报告不仅关注合成内容的危险性；它旨在通过理解和应用基于用例和上下文的技术方法来提高内容的透明度，从而降低合成内容的风险。
人工智能标准的全球参与
人工智能系统正在改变美国社会和世界各地。人工智能标准全球参与计划（NIST AI 100-5）旨在推动全球人工智能相关共识标准的制定和实施、合作与协调以及信息共享。
草案征求了对人工智能标准化可能急需的领域和主题的反馈意见。这些主题已准备好标准化，包括提高对数字内容来源的认识的机制，无论是真实的还是合成的；以及人工智能系统测试、评估、验证和验证的共享做法。其他主题可能需要更多的科学研究和开发，以建立对潜在标准关键组成部分的基本科学理解。
NIST GenAI
除了这四份文件，NIST还宣布了NIST GenAI，这是一个评估和测量生成人工智能技术的新项目。该项目是NIST对行政命令的回应的一部分，其努力将有助于为NIST的美国人工智能安全研究所的工作提供信息。
NIST GenAI项目将发布一系列挑战性问题，旨在评估和衡量生成人工智能技术的能力和局限性。这些评估将用于确定促进信息完整性的战略，并指导安全和负责任地使用数字内容。该项目的目标之一是帮助人们确定是人类还是人工智能制作了给定的文本、图像、视频或音频记录。5月开始注册，参与试点评估，旨在了解人工制作的内容与合成内容的区别。有关挑战和如何注册的更多信息，请访问NIST GenAI网站。
USPTO关于专利权的RFC
完整的联邦公报评论截止到2024年7月29日。为了激励、保护和鼓励对通过使用人工智能实现的创新的投资，并向公众明确人工智能辅助发明的专利性，美国专利商标局此前已在《联邦公报》上发布了指导意见。
