登录
 机构网站
  1. 首页
  2. 情报产品
  3. 快讯详情

《新型网络算法可阻止恶意机器人攻击》

  • 来源专题：新一代信息技术
  • 编译者： 王晓丽
  • 发布时间：2023-11-28

  • 澳大利亚研究人员设计了一种算法，可以拦截对无人驾驶军用机器人的中间人（MitM）网络攻击，并在几秒钟内将其关闭。

    在一项利用深度学习神经网络模拟人脑行为的实验中，来自查尔斯特大学和南澳大利亚大学（UniSA）的人工智能专家训练机器人的操作系统学习MitM窃听网络攻击的特征。

    这就是攻击者中断现有对话或数据传输的情况。

    该算法在一辆美国陆军地面战车的复制品上进行了实时测试，在防止恶意攻击方面成功率高达 99%。

    不到 2% 的误报率验证了系统的有效性。

    相关成果已发表在《电气和电子工程师学会可信和安全计算论文集》（IEEE Transactions on Dependable and Secure Computing）上。

    UniSA自主系统研究员安东尼-芬恩（Anthony Finn）教授说，所提出的算法比世界上用于检测网络攻击的其他识别技术性能更好。

    芬恩教授和查尔斯特人工智能与网络未来研究所的芬迪-桑托索博士与美国陆军未来司令部合作，对GVT-BOT地面车辆复制了中间人网络攻击，并训练其操作系统识别攻击。



  • 原文来源：http://www.sciencedaily.com/releases/2023/10/231011202416.htm
43浏览量
原文链接
相关报告

  • 《《Pathfinder: High-Resolution Control-Flow Attacks Exploiting the Conditional Branch Predictor》发现新型网络安全攻击》
    • 来源专题：新一代信息技术
    • 编译者：isticzz2022
    • 发布时间：2024-04-30
    •        2024年ACM ASPLOS会议上，加州大学圣地亚哥分校计算机科学领域专家领导的多大学和行业研究团队展示了他们的研究成果。论文《Pathfinder: High-Resolution Control-Flow Attacks Exploiting the Conditional Branch Predictor》是基于来自加州大学圣地亚哥分校、普渡大学、佐治亚理工大学、北卡罗来纳大学教堂山分校和谷歌等名校及企业专家的研究发现。其中详细介绍了两种新型攻击，研究人员发现这两种针对高端英特尔处理器中条件分支预测器的新型攻击，可能会危及目前使用的数十亿处理器。       他们发现了一种独特的攻击，它是第一个针对分支预测器中名为路径历史寄存器的功能的攻击，该功能跟踪分支顺序和分支地址。因此，与先前缺乏对分支预测器的确切结构的深入了解的攻击相比，暴露出更多具有更高精度的信息。       他们的研究推进了英特尔和AMD解决研究人员提出的问题进度。今天，英特尔将发布安全公告，而AMD将发布安全公报。在软件中，当程序根据不同的数据值导航不同的路径时，会发生频繁的分支。这些分支的方向，无论是“采取”还是“不采取”，都为执行的程序数据提供了至关重要的见解。考虑到分支对现代处理器性能的重大影响，采用了一种被称为“分支预测器”的关键优化。该预测器通过参考存储在预测表中的过去历史来预测未来的分支结果。以前的攻击通过分析这些表中的条目来识别特定地址的最近分支趋势，从而利用了这种机制。       在这项新研究中，研究人员利用现代预测因子对路径历史寄存器（PHR）的利用来索引预测表。PHR记录最近英特尔体系结构中最后194个分支的地址和精确顺序。通过捕捉PHR的创新技术，研究人员证明了不仅能够捕捉最新的结果，而且能够按顺序捕捉每个分支的结果。值得注意的是，它们揭示了所有分支机构的全球秩序。尽管PHR通常保留了最近的194个分支，但研究人员提出了一种先进的技术来恢复更长的历史。       加州大学圣地亚哥分校计算机科学与工程系博士生、该论文的主要作者Hosein Yavarzadeh说：“我们成功地以精确的顺序捕获了数万个分支的序列，利用这种方法在广泛使用的图像库libjpeg处理过程中泄露了秘密图像。研究人员还引入了一种异常精确的Spectre式中毒攻击，使攻击者能够在受害者代码中引发复杂的分支预测错误模式。”加州大学圣地亚哥分校计算机科学教授Dean Tulsen说：“这种操纵导致受害者执行意外的代码路径，无意中暴露了其机密数据。虽然以前的攻击可能会误导一个分支或多次执行的分支的第一个实例，但我们现在有了如此精确的控制，我们可能会误导被执行数千次的分支的第732个实例。”。       该团队提出了一种概念验证，迫使加密算法提前暂时退出，从而暴露出减少的圆形密文。通过这个演示，他们展示了提取秘密AES加密密钥的能力。       普渡大学计算机科学助理教授、加州大学圣地亚哥分校计算机科学博士毕业生Kazem Taram表示：“探路者可以揭示几乎任何受害者程序中几乎任何分支的结果，使其成为迄今为止我们所见过的最精确、最强大的微架构控制流提取攻击。”       研究人员已于2023年11月向英特尔和AMD传达了论文中概述的安全发现。英特尔已将这些问题告知其他受影响的硬件/软件供应商。英特尔和AMD都计划通过以安全公告的形式解决研究提出的问题。       
    111浏览量
    原文链接

  • 《工业机器人要“有脑子”》
    • 来源专题：中国科学院文献情报制造与材料知识资源中心 | 领域情报网
    • 编译者：冯瑞华
    • 发布时间：2019-07-19
    • 穿上“高科技”的外衣，机器人经常出现在“替代人类”的话题里，让人类心中打鼓。殊不知，在生产线24小时连轴转的工业机器人，却经常被抱怨说“太笨了”“一根筋”“不知变通”。 “传统工业机器人只能在固定的环境下，依赖精确的重复定位能力从事重复性的工作，还不能适应动态复杂的环境，或者跟人类合作完成同一项工作。”中国科学院沈阳自动化研究所副研究员张华良告诉《中国科学报》。 随着越来越多的科技人员致力于让工业机器人适用于更多场景、更易用，这一情况正在发生变化。日前，美国一家公司开发出了一种新型芯片。该芯片可以让机器人“思考”如何处理动态场景，并“想象”采取不同动作的结果，最后选择最合适的动作对外输出，以此赋予工业机器人智能。 实验室中，两个机器人装上芯片后，展现出惊人的团队合作能力，它们结伴同行，时不时传递物品，并试图绕开阻碍物品传递的障碍物。工业机器人走向智能化将会为生产生活带来哪些影响？ “头脑简单四肢发达”已过时 工业机器人诞生于上世纪40年代，最初是为了从事高危工作或做人力无法企及之事，比如核燃料处理等。此后，机器人被用于汽车、电子、金属和物流等行业，从事焊接、装配、喷涂、打磨、切割、搬运和分拣等工作。 中国是工业制造业大国，自2013年起，中国也成为世界最大的工业机器人消费国。一路高歌猛进的工业机器人近期却出现下降态势，高工产研机器人研究所（GGII）的数据显示，今年一季度，中国多功能工业机器人进口量同比下降了29%。与此同时，国家统计局的数据显示，今年前4个月，中国工业机器人总产量较去年同期下滑10%。 张华良表示，据中国机器人产业联盟发布的2018年中国工业机器人市场信息显示，电子电气设备和器材制造业和汽车行业的需求下降，是导致整个工业机器人市场下降的主要原因。不过销量明显下降的多集中于外资品牌工业机器人，我国自主品牌工业机器人的销量和占比较往年反有提升。 面对总产量下滑的态势，他认为需引起业界重视，对工业机器人的研发做出调整升级。“比如复杂的编程，很大程度上限制了工业机器人的使用范围，导致工业机器人的应用面较窄。” 如何寻找工业机器人发展的突破口？张华良表示，应该拓宽工业机器人的应用领域和行业，积极挖掘中小企业的应用潜能。 梅卡曼德公司创始人兼CEO邵天兰更加简单明了，工业机器人是实现智能制造的关键基础技术。为了工业的发展，赋予工业机器人智能、增加工业机器人应用场景是必由之路。 “察言观色”还不够 何为智能？邵天兰举了一个例子。假如家中的空调能够自动根据室内的温度、人数进行调节，当它发现屋里有老人和小孩时，可自动把风调小，而发现室内有几个大汗淋漓的小伙子时，把风力增强，这就说明空调拥有了智能。 “智能最重要的特征就是感知环境并根据环境状况进行调整。因此，实现工业机器人初级智能最重要的感知能力就是视觉，其次是听觉，其他的感官加起来也没有这两者分量大。” 他认为，实现机器人的视觉和听觉目标，从硬件上说面临两处挑战：一是传感器，特别是视觉传感器；二是拥有智能决策的算法。 目前，以视觉、听觉等感觉为代表的研究成为工业机器人研发的热点。但库柏特科技有限公司创始人兼CEO李淼却不这么认为。“尽管，视觉、力控、触觉等传感器研发是‘库柏特’的核心业务，但工业机器人智能化是系统层面的问题。工业机器人是一个多学科交叉融合的产品，它的智能化涉及多方面，不能只关注视觉或触觉。” 要关注工业机器人的设计，首先要关注原始设计——这决定机器人的能力范围。其次，机器人需要具有决策判断能力，比如当一个乒乓球飞过来时，机器人需要判断来球是上旋还是下旋、正拍还是反拍，攻击发起点在哪里、落点在哪里，这些都要通过感知，之后还要判断它弹起后的状态。经过一系列“思考”后，机器人再去精准执行思考结果，将来球击出。 你以为结束了？其实还有最后最关键的一步——自省。李淼表示，机器人并不是每次都能将球漂亮击出，也有“失手”的时候，这就需要它在自省中发现问题，吸取教训，进行智能化的自动升级。 “智”爱工业 目前，智能化的工业机器人还处于实验室研究阶段，在传统的机器人的基础上“苦练本领”，提高应用性能。 在一线多年，李淼的感触更具体，他认为，大多工业机器人的研究停留在设计、感知、精准执行阶段，触及机器人决策判断的研究较少，能够把“设计-感知—判断—执行—自省”作为一个闭环研究的团队更是鲜见。 尽管尚处于设想和研究阶段，但研发人员窥见一斑，足以畅想工业机器人未来的应用场景。 邵天兰表示，智能化的工业机器人将广泛出现在自动化程度比较低的行业，比如物流等，以及人力密集型行业，比如制衣、制鞋、汽车组装、玩具组装等。 李淼介绍，他们正在研发一款拣蘑菇的机器人。香菇虽然长在同一个地方，但其花纹不同，需要对其进行分类。以往靠人工分拣香菇，赋予工业机器人“分拣”的视觉后，机器人就能对香菇进行判断。 工业机器人被赋予更多智能，它的应用范围将更加广阔。“未来，工业机器人的应用场景将会越来越多，日常生活需要的服务机器人、助残机器人、养老机器人等，也会用到工业机器人的技术，但不可否认的是工业机器人目前的主战场在工业领域。”张华良说。 解放人类劳动 谈及工业机器人是否会替代人类的工作，张华良表示，在某些层面是一定的。比如工厂流水线上，按品类挑选产品的分拣员、打磨器件的工人、检查产品质量的质检员等均有可能被工业机器人取代。“从积极的角度看，随着人类被工业机器人取代，可以督促人类找到新的就业方向。鼓励人类增加工作技能，拥有更复杂的工作能力，这种转变对人类发展是有意义的。” 李淼表示，虽然机器人会替代一部分人，但这些工作大多是重复性的、繁重的，甚至有毒有害的体力劳动，与其说“替代”不如说“解放”，将人力解放出来。当低端的岗位用机器人替代后，人力成本降低，更好的岗位就会在国内涌现。 他强调，除了关注是否会“替代人类”，还应该注意工业机器人给工业数据带来的变革。智能的实现必须通过数据，智能化的核心就是基于数据的决策。工业机器人智能化的过程，也是让工业数据变得更有价值的过程，这才是工业机器人智能化最大的贡献。
    130浏览量
    原文链接