登录
 机构网站
  1. 首页
  2. 情报产品
  3. 快讯详情

《美国政府寻求在战争中使用人工智能的道德准则清单》

  • 来源专题：生物安全知识资源中心 | 领域情报网
  • 编译者： huangcui
  • 发布时间：2019-02-22

  • Defense one网站1月4日报道，美国国防部官员要求国防创新委员会就在战争中使用人工智能提出一套道德准则。这些准则旨在指导对人工智能兴趣日益浓厚的军方，并向硅谷的潜在合作伙伴保证他们将“安全负责地”使用人工智能产品。

    目前，人工智能科学家对美国国防部打算如何使用人工智能表示担忧。尽管美国国防部有一项关于武器自主作用的政策，但目前缺乏关于如何在各种军事任务中更广泛地使用人工智能的政策。美国国防部将于1月23日在哈佛大学贝尔弗科学与国际事务中心举行公开听证会，以吸引那些对国防部使用人工智能持怀疑态度的学者和伦理学家。提交给国防部的建议要符合以道德为先的方针，维护有关战争和人权的现行法律规范，同时继续执行国防部维持和平和遏制战争的持久使命。国防创新委员会成员将收集和审查所有意见，以便在未来几个月起草这些人工智能使用准则时予以考虑。

152浏览量
原文链接
相关报告

  • 《美国政府宣布苹果公司签署美国人工智能安全自愿承诺》
    • 编译者：李晓萌
    • 发布时间：2024-08-20
    • 九个月前，拜登总统发布了一项具有里程碑意义的行政命令，以确保美国在把握人工智能（AI）的前景和管理风险方面处于领先地位。 这项行政命令建立在他和副总统哈里斯去年从15家美国领先的人工智能公司获得的自愿承诺之上。今天，政府宣布苹果公司已签署自愿承诺，进一步巩固了这些承诺作为负责任的人工智能创新的基石。 此外，联邦机构报告称，在按时完成迄今为止要求的所有其他任务后，他们按计划完成了行政命令中的所有270天行动。各机构在针对更长时间框架的其他工作方面也取得了进展。 根据行政命令和副总统哈里斯在全球人工智能安全峰会前的主要政策演讲中提出的一系列行动呼吁，政府各机构都采取了相关的行动。他们已采取措施减轻人工智能的安全和安保风险，保护美国人的隐私，促进公平和公民权利，为消费者和工人挺身而出，促进创新和竞争，提升美国在世界各地的领导地位等等。各机构今天报告已完成的行动包括以下内容： 管理安全和安保风险： 在270多天的时间里，行政命令指示各机构采取全面行动，解决人工智能的安全和安保风险，包括发布重要的安全指南，并建设测试和评估人工智能的能力。为了保护安全和安保，各机构已经： 1.人工智能安全研究所（AISI）发布了新的技术指南，供公众评论，该指南旨在指导领先的人工智能开发人员管理两用基础模型的误用评估。AISI的指导方针详细说明了领先的人工智能开发人员如何帮助防止越来越强大的人工智能系统被滥用来伤害个人、公共安全和国家安全，以及开发人员如何提高其产品的透明度。 2.发布了关于管理生成人工智能风险和安全开发生成人工智能系统和两用基础模型的最终框架。美国国家标准与技术研究院（NIST）的这些文件将在NIST的人工智能风险管理框架的基础上提供额外的指导，该框架为个人、组织和社会提供了一个管理人工智能风险的框架，并在美国和全球得到了广泛采用。NIST还向白宫提交了一份报告，概述了降低合成成分风险的工具和技术。 3.在能源部（DOE）开发和扩展了人工智能测试台和模型评估工具。美国能源部正在与跨部门合作伙伴协调，利用其测试平台评估人工智能模型的安全性，特别是人工智能模型可能对关键基础设施、能源安全和国家安全构成的风险。美国能源部的试验台也被用于探索新的人工智能硬件和软件系统，包括提高人工智能可信度的隐私增强技术。美国国家科学基金会（NSF）还发起了一项倡议，帮助资助联邦政府以外的研究人员设计和规划人工智能测试平台。 4.报告了人工智能保护重要政府软件的试点结果。国防部（DoD）和国土安全部（DHS）报告了其人工智能试点的结果，以解决分别用于国家安全目的和文职政府的政府网络中的漏洞。这些步骤建立在先前在行政命令发布后180天内推进此类试点工作的基础上。 将人工智能人才引入政府 去年，行政命令在政府范围内发起了一场人工智能人才激增，将数百名人工智能和人工智能使能专业人员带入政府。受雇人员正在执行关键的人工智能任务，例如告知使用人工智能进行许可的努力，为整个联邦政府的人工智能投资提供建议，以及为政府使用人工智能制定政策。 1.为了提高整个联邦政府在国家安全和非国家安全任务方面的人工智能能力，人工智能人才激增迄今已招聘了200多名员工，包括通过总统创新研究员人工智能队列和国土安全部人工智能团队。 2.在人工智能人才激增6个月报告的基础上，白宫科技政策办公室宣布了整个技术生态系统的新承诺，包括近1亿美元的资金，以支持更广泛的公共利益技术生态系统，并为将技术人员带入政府服务建立基础设施。 推进负责任的人工智能创新 拜登总统的行政命令指示采取进一步行动，抓住人工智能的希望，深化美国在人工智能创新方面的领先地位，同时确保人工智能在我们的经济和社会中负责任地发展和使用。在270天内，各机构已经： 1.编制并将很快发布一份关于两用基础模型的潜在收益、风险和影响的报告，其中模型权重广泛可用，包括相关政策建议。商务部的报告借鉴了与专家和利益相关者的广泛联系，包括就这一主题提交的数百条公众意见。 2.通过国家人工智能研究资源（NAIRR）试点，80多个研究团队获得了计算和其他人工智能资源的访问权限，该试点是由美国国家科学基金会领导的国家基础设施，与美国能源部、美国国立卫生研究院和其他政府和非政府合作伙伴合作，为支持国家的人工智能研究和教育界提供可用资源。支持的项目将解决深度伪造检测问题，提高人工智能安全性，实现下一代医疗诊断，并进一步推进其他关键的人工智能优先事项。 3.发布了一份设计用于教育的安全、可靠和值得信赖的人工智能工具的指南。教育部的指南讨论了教育技术开发人员如何设计有利于学生和教师的人工智能，同时促进公平、民权、信任和透明度。这项工作以该部门2023年的报告为基础，该报告概述了在教学中使用人工智能的建议。 4.发布了关于评估涉及人工智能技术以及其他新兴技术的发明的专利权利要求资格的指南。美国专利商标局的指导将指导人工智能领域的发明者保护他们的人工智能发明，并协助专利审查员审查人工智能发明的专利申请。 5.发布了一份关于过去四年联邦研发（R&D）的报告，以推进可信赖的人工智能。美国国家科学技术委员会的报告审查了近30亿美元的年度联邦人工智能研发预算。 6.启动了一项2300万美元的计划，旨在促进使用隐私增强技术来解决现实世界的问题，包括与人工智能相关的问题。NSF将与行业和机构合作伙伴合作，通过其新的“隐私保护数据共享实践”计划进行投资，努力为特定用例应用、成熟和扩展隐私增强技术，并建立测试平台以加速其采用。 7.宣布进一步投资数百万美元，以促进全社会负责任的人工智能开发和使用。其中包括通过NSF的新兴和新技术体验式学习计划投资3000万美元，该计划支持人工智能等领域的包容性体验式学习，以及通过NSF的ExpandAI计划投资1000万美元，这有助于在少数族裔服务机构建立人工智能研究能力，同时培养多样化、人工智能就绪的劳动力。 提升美国在海外的领导地位 拜登总统的行政命令强调，美国领导全球努力释放人工智能的潜力并应对其挑战。为了提升美国在人工智能领域的领导地位，各机构已经： 1.发布了美国参与全球人工智能标准的全面计划。该计划由NIST制定，纳入了广泛的公共和私营部门的投入，确定了人工智能标准工作的目标和优先领域，并为包括美国机构在内的美国利益相关者制定了行动。NIST和其他机构将在180天内报告优先行动。 2.制定了管理人工智能对人权构成的风险的指导方针。国务院与美国国家标准与技术研究院和美国国际开发署密切协调制定的“人工智能与人权风险管理概况”向世界各国政府、私营部门和民间社会推荐了基于NIST人工智能风险管理框架的行动，以识别和管理人工智能的设计、开发、部署和使用带来的人权风险。 3.启动了一个由人工智能安全研究所和其他政府支持的科学办公室组成的全球网络，以在技术层面推进人工智能安全。该网络将加速关键信息交换，并推动共同或兼容的安全评估和政策。 4.发起了一项具有里程碑意义的联合国大会决议。该决议获得一致通过，有100多个共同提案国，为世界各国制定了一个共同愿景，即促进安全可靠地使用人工智能来应对全球挑战。 5.扩大全球对美国领导的《关于负责任地使用人工智能和自主性的政治宣言》的支持。55个国家现在支持该政治宣言，该宣言概述了负责任地开发、部署和使用军事人工智能能力的一套规范。
    169浏览量
    原文链接

  • 《美国白宫发布拜登政府人工智能行动行政命令一周年以来，人工智能领域的关键成就》
    • 编译者：李晓萌
    • 发布时间：2024-12-06
    • 2023年10月30日，美国总统拜登签署发布《安全、稳定、可信的人工智能》行政命令，以确保美国在把握人工智能（AI）的前景和管理风险方面处于领先地位。该行政命令指示采取全面行动，管理人工智能的安全和安保风险，保护美国人的隐私，促进公平和民权，为消费者和工人挺身而出，促进创新和竞争，提升美国在世界各地的领导地位等。 2024年10月30日，拜登-哈里斯政府宣布，联邦机构已按计划完成了行政命令在过去一年中赋予的每一项行动——总共一百多项。以下是自拜登总统签署行政命令以来，政府在管理人工智能风险和抓住其前景方面取得的一些最重要的成就。 管理安全和安保风险： 该行政命令指示了有史以来最大胆的行动，以保护美国人免受广泛的人工智能安全和安保风险，包括与危险生物材料、软件漏洞以及外国行为者为有害目的开发人工智能有关的风险。在过去的一年里，为了保护安全和安保，各机构采取了以下措施： ·利用《国防生产法》的授权，要求最强大的人工智能系统的开发人员向美国政府报告重要信息，包括安全和安保测试的结果。这些公司已将其红队安全测试的结果、训练强大模型的计划以及他们拥有的能够进行此类训练的大型计算集群通知了DOC。上个月，DOC提出了一项规定，要求每季度报告一次这些信息。 ·引领人工智能安全测试和评估，推进人工智能安全科学。美国DOC下属的美国人工智能安全研究所（US AISI）通过最近与两家领先的人工智能开发商签署的协议，开始对主要的新人工智能模型进行部署前测试。美国能源部（DOE）开发并扩展了其人工智能试验台和评估工具，并已将其用于测试模型对核安全的风险。 ·开发了管理人工智能风险的指导和工具。美国AISI和美国DOC国家标准与技术研究所（NIST）发布了与生成人工智能和两用基础模型相关的风险管理框架，本月早些时候，AISI发布了一份关于负责任地开发和使用化学和生物科学人工智能模型的信息请求。DoD（DoD）发布了其负责任的人工智能工具包，以使人工智能项目与DoD的道德原则保持一致。 ·发布了有史以来第一份关于人工智能的国家安全备忘录（NSM）。NSM指导联邦机构采取具体措施，确保美国引领世界安全、可靠和值得信赖的人工智能发展；使各机构能够利用尖端的人工智能实现国家安全目标，包括保护人权和民主价值观；这份重要文件是人工智能安全研究所的正式章程，将其指定为整个政府高级人工智能模型测试方法的中心，并将指导DoD和情报界快速、负责任地采用人工智能。NSM还指导创建了一个推进国家安全人工智能治理和风险管理的框架，该框架为根据民主价值观实施NSM提供了敏捷的指导，包括风险管理、评估、问责和透明度机制。 ·最终确定了核酸合成筛查框架，以帮助防止人工智能被滥用于工程危险生物材料。该框架由科学技术政策办公室（OSTP）制定，鼓励核酸合成提供商识别可能构成国家安全风险的基因序列，并实施客户筛查以降低滥用风险。从2025年开始，联邦机构将要求资助接受者从遵守该框架的供应商那里获得合成核酸。国土安全部（DHS）已经制定了一个初步框架，其中包含评估未来筛查机制有效性的原则。 ·成立了一个新的人工智能数据中心基础设施工作组。该工作组提供简化的政策协调，以根据经济、国家安全和环境目标推进数据中心开发运营。 ·已确定的措施--包括标记内容和提高透明度的方法，以降低人工智能生成内容带来的风险。DOC向白宫提交了一份关于解决这些风险的科学支持标准和技术的最终报告，而NIST则发起了一项挑战，即开发检测人工智能生成内容的方法。拜登总统强调，公众有权知道内容何时是人工智能生成的，各机构正在努力使用这些工具帮助美国人知道他们从政府收到的通信是真实的。 ·成立了人工智能安全与安保委员会（AISSB），就人工智能在关键基础设施中的安全使用向国土安全部部长提供建议。AISSB今年举行了三次会议，为开发、部署和促进人工智能系统问责制的实体制定了一套建议，这些系统有助于为数百万美国人提供基本服务。AISSB的工作补充了国土安全部为关键基础设施所有者和运营商制定的有史以来第一份人工智能安全和安保指南，该指南由各机构对所有关键基础设施部门的人工智能风险评估提供了信息。为了进一步帮助保护关键基础设施，财务主管部门发布了一份关于管理金融部门使用人工智能的安全风险的报告，能源部发布了对电网潜在风险的评估，以及人工智能可能增强电网弹性和我们应对威胁的能力的方法。 ·用于保护重要政府软件系统的人工智能试点。DoD和国土安全部进行了人工智能试点，以解决分别用于国家安全目的和民间政府组织的政府网络中的漏洞。 维护工人、消费者、隐私和公民权利 人工智能正在改变美国人购买的产品和服务，影响工作和工作场所，并引入或加剧隐私、公平和公民权利的风险。拜登总统的行政命令在每个领域都代表了美国人，在过去的一年里，各机构已经： ·制定了基本原则和实践，以及指导方针，以帮助保护和增强工人的能力，因为人工智能是为工作场所构建和使用的。美国劳工部（DOL）发布了人工智能原则和最佳实践，供雇主和开发人员以中心化工人福祉和提高工作质量的方式构建和使用人工智能。美国劳工部还发布了两份指导文件，以协助联邦承包商和雇主在工作场所部署人工智能时遵守工人保护法。此外，平等就业机会委员会为求职者和工人发布了资源，以了解人工智能的使用如何违反就业歧视法。 ·随着人工智能在医疗保健领域的开发和部署，保护患者的权利和安全，同时鼓励创新。美国卫生与公众服务部（HHS）制定了一项人工智能安全计划，以跟踪涉及人工智能在医疗环境中使用的有害事件，并评估这些危害的缓解措施。HHS还制定了在药物开发过程和AI设备中使用AI或AI工具的目标、目的和高级原则。此外，美国卫生与公众服务部最终确定了一项规则，该规则为人工智能和其他预测算法制定了首创的透明度要求，这些算法是经过认证的健康信息技术的一部分。卫生和公众服务部还敲定了一项民权法规，实施了《平价医疗法案》第1557条，该法案要求受保医疗机构在使用人工智能和其他形式的决策支持工具进行护理时，采取措施识别和减轻歧视。 ·为在教育中安全、可靠和值得信赖地设计和使用人工智能发布了指导和资源。 ·发布了关于人工智能在住房领域的非歧视性使用的指导方针，其中申明现有的反歧视禁令适用于人工智能在租户筛选和住房广告中的使用，同时解释了如何遵守这些义务。此外，消费者金融保护局批准了一项规则，要求用于房屋估值的算法和人工智能是公平的、非歧视的，并且没有利益冲突。 ·在管理公共福利项目时，为负责任和公平地使用人工智能和算法系统设置护栏。农业部的指导方针为州、地方、部落和地区政府如何管理在SNAP等关键福利计划中使用人工智能和自动化系统的风险提供了一个框架，而卫生和公众服务部发布了一项计划，为其监督的福利计划提供了类似主题的指导方针。 ·确认承诺防止和解决人工智能造成的非法歧视和其他伤害。司法部民权司召集联邦机构民权办公室和高级政府人员，促进人工智能和民权协调。随着人工智能等新技术在日常生活中变得越来越普遍，五个新机构也加入了2023年的承诺，以维护美国对公平、平等和正义的承诺。 ·先进的隐私保护，保护美国人免受人工智能造成或加剧的隐私风险。特别是，美国国家科学基金会（NSF）和美国能源部建立了一个研究网络，致力于推进隐私增强技术（PETs）的开发、部署和扩展，而NSF启动了2300万美元的隐私保护数据共享实践计划，为特定用例应用、成熟和扩展PETs，并建立测试平台以加速其采用。与此同时，美国能源部启动了一项6800万美元的人工智能科学研究项目，其中包括多个美国能源部国家实验室和其他机构为推进科学人工智能的PET所做的努力。DOC还制定了评估差异隐私保障的指导方针。管理和预算办公室（OMB）发布了一份信息请求书（RFI），内容涉及联邦机构收集、处理、维护、使用、共享、传播和处置包含个人身份信息的商业信息。OMB还发布了一份RFI，说明联邦机构的隐私影响评估如何更有效地减轻隐私风险，包括那些因人工智能和其他技术和数据能力进步而进一步加剧的风险。 利用人工智能行善 在过去的一年里，各机构一直在努力抓住人工智能的巨大潜力，包括与私营部门合作，促进有价值的人工智能用例的开发和使用，以及深化美国在人工智能创新方面的领先地位。为了更好地利用人工智能，各机构已经： ·启动了国家人工智能研究资源（NAIRR）试点，并授予150多个研究团队访问计算和其他人工智能资源的权限。NAIRR试点是由美国国家科学基金会（NSF）与美国能源部和其他政府和非政府合作伙伴共同领导的国家基础设施，为支持国家的人工智能研究和教育界提供可用资源。支持的研究团队跨越34个州，处理涉及深度伪造检测、人工智能安全、下一代医疗诊断、环境保护和材料工程的项目。 ·在美国各地推广人工智能教育和培训。美国能源部正在利用其国家实验室网络，到2025年培训500名新研究人员，以满足对人工智能人才的需求，而美国国家科学基金会已投资数百万美元用于培训未来人工智能领导者和创新者的计划。这些项目包括EducateAI倡议，该倡议帮助教育工作者在K-12到本科阶段创造高质量、包容性的人工智能教育机会，支持人工智能等领域的体验式学习，并在少数族裔服务机构建立人工智能研究能力。 ·扩大了顶尖人工智能科学家、工程师和企业家来美国的能力，包括澄清O-1和H-1B签证规则，并努力简化签证处理。 ·发布了一份关于两用基础模型的潜在收益、风险和影响的报告，其中模型权重广泛可用，包括相关政策建议。DOC的报告借鉴了与专家和利益相关者的广泛联系，包括就这一主题提交的数百条公众意见。 ·宣布了一项高达1亿美元的竞赛，以支持人工智能自主实验的应用，以加速对有针对性的、与行业相关的、可持续的半导体材料和工艺的研究和交付。 ·成立了两个新的国家人工智能研究所，用于构建人工智能工具，以推动经济部门、科学和工程领域的进步。9月成立的由美国国家科学基金会领导的人工智能研究院将为天文科学开发人工智能工具，并在科学学科中得到更广泛的应用。今年早些时候，NSF还资助了10个首届区域创新引擎（NSF引擎），其中7个专注于推进人工智能。 ·宣布进一步投资数百万美元，以促进全社会负责任的人工智能开发和使用。其中包括美国能源部在VoltAIc计划中投资1300万美元，用于使用人工智能简化许可程序和加速清洁能源部署，以及美国能源部投资6800万美元，资助人工智能进行科学研究，以加速科学规划，开发节能的人工智能模型和硬件。美国能源部还推出了人工智能促进科学、安全和技术前沿（FAST）倡议路线图和信息请求，以利用人工智能进行科学发现、国家安全、能源和电网弹性以及其他国家挑战，并建立在人工智能工具、模型和伙伴关系的基础上。美国国家科学基金会与慈善机构合作，宣布向美国44个多学科、多部门团队首次投资1800多万美元，以推进包括人工智能在内的技术的负责任设计、开发和部署，确保道德、法律、社区和社会因素融入技术创造的生命周期。 ·发布了有史以来第一份分析人工智能近期支持美国清洁能源经济增长潜力的报告。美国能源部的国家实验室还发布了一份长期重大挑战报告，确定了未来十年人工智能在能源方面的机遇。 ·发布了人工智能如何帮助我们实现国家最大愿望的愿景。人工智能愿景设定了目标，为所有人创造一个更好的健康和机会的未来，减缓气候变化，提高抵御能力，建立强大的基础设施和制造业，确保政府为每个美国人服务，等等。为了促进这些目标的实现，HHS推出了CATALYST，这是一个研发项目，专注于在临床试验开始前利用人工智能更好地预测药物的安全性和有效性。作为补充，总统科学技术顾问委员会还撰写了一份报告，概述了人工智能在彻底改变和加速科学发现方面的潜力。 ·发布了解决人工智能和知识产权交叉领域重要问题的指南。为了推进创新，美国专利商标局（USPTO）发布了指导文件，涉及人工智能辅助发明的可专利性、涉及人工智能技术相关发明的专利权利要求的主题资格，以及在USPTO的诉讼中使用人工智能工具。 将人工智能和人工智能人才引入政府 人工智能可以帮助政府为美国人民提供更好的结果，尽管联邦机构使用人工智能也可能带来歧视和不安全决策等风险。此外，将人工智能和支持人工智能的专业人员带入政府对于管理这些风险和机遇以及推进其他关键的人工智能任务至关重要。在过去的一年里，各机构已经： ·发布了有史以来第一个政府范围内的政策，以加强治理，降低风险，并推进联邦使用人工智能的创新。OMB的历史性政策M-24-10要求各机构在以可能影响美国人权利或安全的方式使用人工智能时实施具体的保障措施。这些保障措施包括一系列强制性风险管理实践，以可靠地评估、测试和监测人工智能对公众的影响，并为政府如何使用人工智能提供更大的透明度。OMB的政策还指示各机构指定首席人工智能官来协调其整个机构对人工智能的使用，同时扩大和提高其人工智能员工队伍的技能，消除将人工智能用于各种目的的障碍——从应对气候变化到促进公共健康和安全。 ·发布了一项政府范围内的政策，以推动联邦机构负责任地收购人工智能。OMB本月发布的M-24-18有助于确保联邦机构在获得人工智能时，拥有管理风险、促进竞争市场和合作进行战略规划所需的信息和工具。这项工作指导联邦政府——美国经济中最大的买家——通过负责任地行使其购买力来推进人工智能创新和风险管理。 ·通过人工智能人才激增，联邦政府雇佣了250多名人工智能从业者。技术人才计划加大了人工智能人才的招聘力度，总统创新研究员带来了他们的第一批人工智能人才，国土安全部建立了迄今为止有30多名成员的人工智能团队，美国数字团队为早期职业技术人员加入联邦服务提供了途径。人工智能人才在实现关键的人工智能优先事项方面发挥了重要作用，从使用人工智能提供顶级政府服务，到保护公众使用人工智能的权利和安全。 ·成立了首席人工智能委员会，以协调跨机构的最佳实践和资源共享，以实施OMB的指导，并协调机构计划和运营中人工智能的开发和使用。 ·为联邦人工智能用例清单引入了扩展的报告说明，包括识别影响权利或安全的用例，以及该机构如何根据OMB的政策应对相关风险。 ·支持公共利益技术生态系统。在人工智能人才激增的基础上，白宫宣布向政府、学术界和民间社会提供资金，支持教育和职业道路，这将有助于确保政府能够获得多样化、以任务为导向的技术人才。 ·启动了新的招聘机构，将人工智能和人工智能人才引入机构。作为人工智能人才激增的一部分，人事管理办公室（OPM）授予了新的招聘权限，包括直接招聘权限和例外服务权限，以便各机构迅速引进顶级人工智能和人工智能赋能人才，并发布了基于技能的招聘和薪酬及休假灵活性指南，以使各机构能够雇佣和留住人工智能和AI赋能人才。此外，OPM还与合作伙伴合作举办了三场全国技术到政府职业博览会，将公众与政府中的人工智能和技术工作联系起来，向3000多名求职者展示了64家联邦、州和地方政府雇主的职位。 提升美国在海外的领导地位 拜登总统的行政命令指示开展工作，领导全球努力捕捉人工智能的潜力，降低人工智能的风险，并确保人工智能的负责任治理。为了推进这些目标，政府已经： ·发起并通过了一项具有里程碑意义的联合国大会决议。该决议获得一致通过，有100多个共同提案国（包括中华人民共和国），为世界各国制定了一个共同愿景，即促进安全可靠地使用人工智能来应对全球挑战。 ·与外国领导人就加强人工智能的国际规则和规范进行了接触，包括在2023年英国人工智能安全峰会和2024年5月的人工智能首尔峰会上，副总统哈里斯代表美国出席了会议。在英国，副总统哈里斯公布了一系列美国倡议，以促进人工智能的安全和负责任的使用，包括在DOC建立AISI。 ·宣布建立人工智能安全研究所和其他政府支持的科学办公室的全球网络，以在技术层面推进人工智能安全。该网络将于11月在旧金山举行的首届网络会议上正式启动，将加速关键信息交流，推动共同或兼容的安全评估和政策。 ·扩大全球对美国领导的《关于负责任地使用人工智能和自主性的政治宣言》的支持。56个国家现在支持该政治宣言，该宣言概述了负责任地开发、部署和使用军事人工智能能力的一套规范。DoD扩大了其国际国防人工智能伙伴关系的范围，使全球负责任的人工智能实践与《政治宣言》的规范保持一致。 ·为美国参与全球人工智能标准和与人工智能相关的关键基础设施主题制定了全面的计划。NIST和DHS将分别在90天内报告根据这些计划采取的优先行动。 ·签署了欧洲委员会《人工智能与人权、民主和法治框架公约》。这是第一个关于人工智能的多边条约，有力地肯定了现有人权义务与人工智能活动的相关性，并为政府负责任地使用人工智能奠定了国际法的坚实基础。美国的签署反映了其致力于确保人工智能技术的设计、开发、使用和管理方式促进对人权和民主价值观的尊重。 ·领导制定了《人工智能技术负责任政府实践联合声明》。自由在线联盟的41个国家承诺的联合声明呼吁各国政府负责任地开发、使用和采购人工智能，包括尊重国际义务和承诺，评估人工智能系统的影响，进行持续监测，确保充分的人力培训和评估，与公众沟通和回应，并提供有效的补救措施。 ·美国国务院和美国国际开发署发布了资源，以推进全球人工智能研究和人工智能在经济发展中的应用。《全球发展中的人工智能》手册纳入了NIST人工智能风险管理框架的原则和实践，以指导人工智能在国际环境中的负责任开发和部署，而《全球人工智能研究议程》则概述了推进人工智能安全、负责任和可持续全球发展和采用的优先事项。
    1042浏览量
    原文链接