《加速人工智能任务,同时保护数据安全》

  • 来源专题:新一代信息技术
  • 编译者: 王晓丽
  • 发布时间:2023-11-28
  • 随着计算密集型机器学习应用(如执行实时语言翻译的聊天机器人)的激增,设备制造商通常会采用专用硬件组件来快速移动和处理这些系统所需的海量数据。

    为这些被称为深度神经网络加速器的组件选择最佳设计极具挑战性,因为它们可能有大量的设计选项。如果设计者希望增加加密操作以保护数据安全,避免受到攻击,这个难题就会变得更加棘手。

    现在,麻省理工学院的研究人员开发出了一种搜索引擎,可以有效识别深度神经网络加速器的最佳设计,在提高性能的同时保护数据安全。

    他们的搜索工具被称为 "SecureLoop",旨在考虑增加数据加密和验证措施将如何影响加速器芯片的性能和能耗。工程师可以利用该工具获得针对其神经网络和机器学习任务的最佳加速器设计。

    与不考虑安全性的传统调度技术相比,SecureLoop 可以提高加速器设计的性能,同时保护数据。

    使用SecureLoop可以帮助用户提高要求苛刻的人工智能应用(如自动驾驶或医学图像分类)的速度和性能,同时确保敏感的用户数据免受某些类型的攻击。

    "如果你想在进行计算时保护数据的安全,那么我们以前用来寻找最优设计的规则现在已经被打破了。因此,所有的优化都需要针对这一新的、更复杂的约束条件进行定制。麻省理工学院计算机科学和电子工程实践教授、SecureLoop 论文的共同作者乔尔-埃默(Joel Emer)说:"这就是(第一作者)Kyungmi 在这篇论文中完成的工作。

    与埃默共同撰写论文的还有论文第一作者、电气工程与计算机科学研究生李京美(Kyungmi Lee),电气工程与计算机科学霍默-伯内尔职业发展助理教授、计算机科学与人工智能实验室(CSAIL)成员严孟嘉(Mengjia Yan),以及资深作者、麻省理工学院工程学院院长、电气工程与计算机科学范内瓦尔-布什(Vannevar Bush)教授阿南塔-钱德拉卡桑(Anantha Chandrakasan)。这项研究将在 IEEE/ACM 微体系结构国际研讨会上发表。


相关报告
  • 《加速人工智能任务,同时保护数据安全》

    • 来源专题:新一代信息技术
    • 编译者:王晓丽
    • 发布时间:2023-11-29
    • 随着计算密集型机器学习应用(如执行实时语言翻译的聊天机器人)的激增,设备制造商通常会采用专用硬件组件来快速移动和处理这些系统所需的海量数据。 为这些被称为深度神经网络加速器的组件选择最佳设计极具挑战性,因为它们可能有大量的设计选项。如果设计者希望增加加密操作以保护数据安全,避免受到攻击,这个难题就会变得更加棘手。 现在,麻省理工学院的研究人员开发出了一种搜索引擎,可以有效识别深度神经网络加速器的最佳设计,在提高性能的同时保护数据安全。 他们的搜索工具被称为 "SecureLoop",旨在考虑增加数据加密和验证措施将如何影响加速器芯片的性能和能耗。工程师可以利用该工具获得针对其神经网络和机器学习任务的最佳加速器设计。 与不考虑安全性的传统调度技术相比,SecureLoop 可以提高加速器设计的性能,同时保护数据。 使用SecureLoop可以帮助用户提高要求苛刻的人工智能应用(如自动驾驶或医学图像分类)的速度和性能,同时确保敏感的用户数据免受某些类型的攻击。 "如果你想在进行计算时保护数据的安全,那么我们以前用来寻找最优设计的规则现在已经被打破了。因此,所有的优化都需要针对这一新的、更复杂的约束条件进行定制。麻省理工学院计算机科学和电子工程实践教授、SecureLoop 论文的共同作者乔尔-埃默(Joel Emer)说:"这就是(第一作者)Kyungmi 在这篇论文中完成的工作。 与埃默共同撰写论文的还有论文第一作者、电气工程与计算机科学研究生李京美(Kyungmi Lee),电气工程与计算机科学霍默-伯内尔职业发展助理教授、计算机科学与人工智能实验室(CSAIL)成员严孟嘉(Mengjia Yan),以及资深作者、麻省理工学院工程学院院长、电气工程与计算机科学范内瓦尔-布什(Vannevar Bush)教授阿南塔-钱德拉卡桑(Anantha Chandrakasan)。这项研究将在 IEEE/ACM 微体系结构国际研讨会上发表。
  • 《美国政府宣布苹果公司签署美国人工智能安全自愿承诺》

    • 编译者:李晓萌
    • 发布时间:2024-08-20
    • 九个月前,拜登总统发布了一项具有里程碑意义的行政命令,以确保美国在把握人工智能(AI)的前景和管理风险方面处于领先地位。 这项行政命令建立在他和副总统哈里斯去年从15家美国领先的人工智能公司获得的自愿承诺之上。今天,政府宣布苹果公司已签署自愿承诺,进一步巩固了这些承诺作为负责任的人工智能创新的基石。 此外,联邦机构报告称,在按时完成迄今为止要求的所有其他任务后,他们按计划完成了行政命令中的所有270天行动。各机构在针对更长时间框架的其他工作方面也取得了进展。 根据行政命令和副总统哈里斯在全球人工智能安全峰会前的主要政策演讲中提出的一系列行动呼吁,政府各机构都采取了相关的行动。他们已采取措施减轻人工智能的安全和安保风险,保护美国人的隐私,促进公平和公民权利,为消费者和工人挺身而出,促进创新和竞争,提升美国在世界各地的领导地位等等。各机构今天报告已完成的行动包括以下内容: 管理安全和安保风险: 在270多天的时间里,行政命令指示各机构采取全面行动,解决人工智能的安全和安保风险,包括发布重要的安全指南,并建设测试和评估人工智能的能力。为了保护安全和安保,各机构已经: 1.人工智能安全研究所(AISI)发布了新的技术指南,供公众评论,该指南旨在指导领先的人工智能开发人员管理两用基础模型的误用评估。AISI的指导方针详细说明了领先的人工智能开发人员如何帮助防止越来越强大的人工智能系统被滥用来伤害个人、公共安全和国家安全,以及开发人员如何提高其产品的透明度。 2.发布了关于管理生成人工智能风险和安全开发生成人工智能系统和两用基础模型的最终框架。美国国家标准与技术研究院(NIST)的这些文件将在NIST的人工智能风险管理框架的基础上提供额外的指导,该框架为个人、组织和社会提供了一个管理人工智能风险的框架,并在美国和全球得到了广泛采用。NIST还向白宫提交了一份报告,概述了降低合成成分风险的工具和技术。 3.在能源部(DOE)开发和扩展了人工智能测试台和模型评估工具。美国能源部正在与跨部门合作伙伴协调,利用其测试平台评估人工智能模型的安全性,特别是人工智能模型可能对关键基础设施、能源安全和国家安全构成的风险。美国能源部的试验台也被用于探索新的人工智能硬件和软件系统,包括提高人工智能可信度的隐私增强技术。美国国家科学基金会(NSF)还发起了一项倡议,帮助资助联邦政府以外的研究人员设计和规划人工智能测试平台。 4.报告了人工智能保护重要政府软件的试点结果。国防部(DoD)和国土安全部(DHS)报告了其人工智能试点的结果,以解决分别用于国家安全目的和文职政府的政府网络中的漏洞。这些步骤建立在先前在行政命令发布后180天内推进此类试点工作的基础上。 将人工智能人才引入政府 去年,行政命令在政府范围内发起了一场人工智能人才激增,将数百名人工智能和人工智能使能专业人员带入政府。受雇人员正在执行关键的人工智能任务,例如告知使用人工智能进行许可的努力,为整个联邦政府的人工智能投资提供建议,以及为政府使用人工智能制定政策。 1.为了提高整个联邦政府在国家安全和非国家安全任务方面的人工智能能力,人工智能人才激增迄今已招聘了200多名员工,包括通过总统创新研究员人工智能队列和国土安全部人工智能团队。 2.在人工智能人才激增6个月报告的基础上,白宫科技政策办公室宣布了整个技术生态系统的新承诺,包括近1亿美元的资金,以支持更广泛的公共利益技术生态系统,并为将技术人员带入政府服务建立基础设施。 推进负责任的人工智能创新 拜登总统的行政命令指示采取进一步行动,抓住人工智能的希望,深化美国在人工智能创新方面的领先地位,同时确保人工智能在我们的经济和社会中负责任地发展和使用。在270天内,各机构已经: 1.编制并将很快发布一份关于两用基础模型的潜在收益、风险和影响的报告,其中模型权重广泛可用,包括相关政策建议。商务部的报告借鉴了与专家和利益相关者的广泛联系,包括就这一主题提交的数百条公众意见。 2.通过国家人工智能研究资源(NAIRR)试点,80多个研究团队获得了计算和其他人工智能资源的访问权限,该试点是由美国国家科学基金会领导的国家基础设施,与美国能源部、美国国立卫生研究院和其他政府和非政府合作伙伴合作,为支持国家的人工智能研究和教育界提供可用资源。支持的项目将解决深度伪造检测问题,提高人工智能安全性,实现下一代医疗诊断,并进一步推进其他关键的人工智能优先事项。 3.发布了一份设计用于教育的安全、可靠和值得信赖的人工智能工具的指南。教育部的指南讨论了教育技术开发人员如何设计有利于学生和教师的人工智能,同时促进公平、民权、信任和透明度。这项工作以该部门2023年的报告为基础,该报告概述了在教学中使用人工智能的建议。 4.发布了关于评估涉及人工智能技术以及其他新兴技术的发明的专利权利要求资格的指南。美国专利商标局的指导将指导人工智能领域的发明者保护他们的人工智能发明,并协助专利审查员审查人工智能发明的专利申请。 5.发布了一份关于过去四年联邦研发(R&D)的报告,以推进可信赖的人工智能。美国国家科学技术委员会的报告审查了近30亿美元的年度联邦人工智能研发预算。 6.启动了一项2300万美元的计划,旨在促进使用隐私增强技术来解决现实世界的问题,包括与人工智能相关的问题。NSF将与行业和机构合作伙伴合作,通过其新的“隐私保护数据共享实践”计划进行投资,努力为特定用例应用、成熟和扩展隐私增强技术,并建立测试平台以加速其采用。 7.宣布进一步投资数百万美元,以促进全社会负责任的人工智能开发和使用。其中包括通过NSF的新兴和新技术体验式学习计划投资3000万美元,该计划支持人工智能等领域的包容性体验式学习,以及通过NSF的ExpandAI计划投资1000万美元,这有助于在少数族裔服务机构建立人工智能研究能力,同时培养多样化、人工智能就绪的劳动力。 提升美国在海外的领导地位 拜登总统的行政命令强调,美国领导全球努力释放人工智能的潜力并应对其挑战。为了提升美国在人工智能领域的领导地位,各机构已经: 1.发布了美国参与全球人工智能标准的全面计划。该计划由NIST制定,纳入了广泛的公共和私营部门的投入,确定了人工智能标准工作的目标和优先领域,并为包括美国机构在内的美国利益相关者制定了行动。NIST和其他机构将在180天内报告优先行动。 2.制定了管理人工智能对人权构成的风险的指导方针。国务院与美国国家标准与技术研究院和美国国际开发署密切协调制定的“人工智能与人权风险管理概况”向世界各国政府、私营部门和民间社会推荐了基于NIST人工智能风险管理框架的行动,以识别和管理人工智能的设计、开发、部署和使用带来的人权风险。 3.启动了一个由人工智能安全研究所和其他政府支持的科学办公室组成的全球网络,以在技术层面推进人工智能安全。该网络将加速关键信息交换,并推动共同或兼容的安全评估和政策。 4.发起了一项具有里程碑意义的联合国大会决议。该决议获得一致通过,有100多个共同提案国,为世界各国制定了一个共同愿景,即促进安全可靠地使用人工智能来应对全球挑战。 5.扩大全球对美国领导的《关于负责任地使用人工智能和自主性的政治宣言》的支持。55个国家现在支持该政治宣言,该宣言概述了负责任地开发、部署和使用军事人工智能能力的一套规范。