《2020年的信息安全:人工智能(AI)在各种信息安全系统中的广泛涌现》

  • 来源专题:光电情报网信息监测服务平台
  • 编译者: husisi
  • 发布时间:2019-11-05
  • 在过去的几年中,信息安全一直都是基于防病毒方案、隔离技术和加密技术的组合。政府机构和信息安全公司愿意采用跟踪互联网流量的方法,并根据其签名查找可疑材料。这些技术重点是在出现问题后去检测恶意软件,并去实现良好数据与恶意软件之间的隔离。但是,如果恶意软件未被检测到,它可能会在系统后台中潜伏数月甚至数年,并在以后变得活跃。

    消费领域正在迅速变化。它正在从一种只有电脑、游戏机和智能手机连接到互联网的环境中迁移出来。渐渐地,这种环境集成了传感器、摄像头和智能家电等新型设备,其目的是让它们的所有者和用户实时了解生活中的许多事情:如房屋状况、家庭事务、人身安全、天气等等。

    现在,我们有了一个更加复杂的环境,其中包含越来越多的设备,每一个设备都可能成为攻击目标,并且存在隐私和安全漏洞。然而,除了笔记本电脑和智能手机,这些联网设备通常最多只能执行一项或两项功能。如果它们是发源于设计目的,监控站可以向中央系统发出警报并标记问题。这就是人工智能(AI)和机器学习(ML)在保护消费者周边环境方面可以发挥的重要作用。

    人工智能和机器学习对保护消费者的重要性

    机器学习可被用于确定系统的行为模式,如网络上的流量、正在运行的应用程序、设备之间建立的通信。机器学习系统将追踪在设备、本地网络或云端中的模式。

    在设备层面,本地机器学习系统将通过查看存储器、任务、IP地址等一系列参数来确定设备的正常运行模式,并确定在正常条件下的运行方式。在只有一种或两种功能的智能家用电器中,通过嵌入能增强机器学习引擎的神经网络加速器(NNA),可实现对行为模式的良好建模。设备可以将其元数据报告给网络级或云级系统,该系统将接收所有这些信息并在众多的设备群中进行分析。

    在网络层面,路由器可以查看所有的流量,并可以运用自己的智能来确定联网中的设备何时与外界进行通信。通过使用机器学习引擎,它们可以评估何时出现异常通信,可以检测到从网络到外界的异常数据流,可以将其作为一个问题来报告。反之亦然,它们可以识别针对本地设备的异常流量来源。

    在云端,应用程序的主机可以看到非常广泛的设备和网络,并且借助它们大型的计算资源,它们可以追踪整个环境中的实时活动。它们应用了与设备层面或网络层面相同的机器学习概念,但是由于其计算能力,它们可以处理更多的数据,并可以查看庞大生态系统的更加具体的信息。

    来自商业和工业市场的经验

    机器学习和取证分析在工业和商业环境中已经很普遍。在医院、运输系统、工厂、石油和天然气平台等工业领域内,都有基于机器学习的安全技术的成功示例。机器学习与分离敏感数据和追踪已知攻击的传统技术结合使用。它通过分析提供了早期识别破坏性行为的额外维度。由于互联设备生态系统不断增长的挑战,导致追踪单个设备变得越来越困难。需要人工智能系统的帮助才能确定设备在什么时候被恶意软件感染。

    机器学习系统将能够检测到由安装在网络摄像头中的恶意软件所引起的Mirai僵尸网络(Mirai botnet)等攻击。该僵尸网络在美国东海岸的互联网目录服务器上发起了服务拒绝(DoS)攻击。无论是在设备层面还是在网络层面,通过使用机器学习技术都会检测到与攻击相关的异常行为,并会尽早通知设备所有者。

    2020年的人工智能信息安全

    机器学习在消费领域中的应用是非常广泛的。从检查隐私参数是否已被正确设置并定期追踪,到观察设备的运行、保护消费者的数据和私人信息,机器学习系统成为消费环境的守护者。它被置于设备内、路由器和托管应用的云端中,这些信息安全层共同协作,为设置设备和保护消费者提供指导。

    通过将元数据设备和网络元数据传输到云级系统,设备和网络可以进行云分析和取证活动。云端机器学习和分析系统可以鸟瞰庞大的生态系统,它可以跨网络连接行为模式。虽然这些技术最初是在商业和工业市场中首创的,但是它们完全适用于消费领域。

    总而言之,物联网(IoT)消费设备的连接增加了恶意软件的攻击面。同时,通过与云端运营商共享这些元数据,它使基于机器学习的分析能够提供基于本地环境行为模式的安全解决方案。

相关报告
  • 《人工智能时代如何构建安全生态?》

    • 来源专题:中国科学院文献情报制造与材料知识资源中心 | 领域情报网
    • 编译者:冯瑞华
    • 发布时间:2018-09-06
    • AlphaGo与人类博弈胜利,已经注定了人工智能的发展将成为未来科技发展的主流方向之一,并且正在不断渗透到我们整个社会中来,智能制造、智能零售、智慧园区、医疗健康、智慧教育、智慧城市方方面面都离不开人工智能的存在,这无疑是一片巨大的蓝海。 然而,机遇与挑战并存,面对飞速发展的人工智能尚不能盲目乐观。在AI的世界里,安全远远不只是我们传统讲到的一些网络、系统以及软件的风险,在AI时代里传感器的安全、数据的风险也成为非常重的层次。 那么如何解决这方面的安全问题呢?对此,百度安全事业部产品总经理韩祖利讲到:“安全不是一家或者一个公司就可以做好的,需要全行业一起建立一个共赢共生的安全生态。安全生态的建设,离不开关系、技术和数据三大关键点。” AI时代生态安全面临挑战 在韩祖利看来,人工智能所面临的安全挑战,纵贯传感器、软件、数据、系统、网络多个层面。当下,尽管人工智能在某些方面精准度可超过人类,显著提升规则化安全工作的效率,但在复杂情况下还远远达不到,且极易受干扰。 他举例称,比如我们在图片里恶意的插入一些信息,也就是通过数据投毒来欺骗机器人。 此外,随着深度学习的发展,现在越来越多的智能设备开始应用生物识别技术,但这一技术也存在风险,因为生物特征极易被采集、复制、且复制成本低廉,此外人工智能行业尚缺乏统一标准,生物认证单靠一个因子并非完全可靠。 智能摄像头也非常大比例的存在一些安全性的问题。如果摄像头是放在机房里还好,如果放在家里,那么对整个个人隐私威胁非常之大。 近期,信通院泰尔实验室联合百度安全面向市面上的主流智能电视进行了安全漏洞测评,结果无一幸免。“AI时代假如没有安全,家里各种智能家居都会向你发出勒索请求。AI确确实实给我们带来了好处,而它带来的风险也是非常剧烈的,并且就在我们身边。”韩祖利说。 共建安全生态离不开三个点 针对AI可能带来的安全问题,并不是一家企业和公司就可以做好的,需要整个行业的共同努力,建立一个安全的生态来使整个行业获得更好的安全防护。 对此,韩祖利总结了三个关键点。首先是关系,所谓的关系就是建立信任,包括人与人之间的信任、公司与公司之间的信任以及跨产业合作的信任。“因为合作,可能他们会对安全有更加清晰的认识,并且逐渐开始认可这方面,这就是合作产生的一种信任。”韩祖利说。 其次就是技术,要防止碎片化。“我们经常看到因为交流较少,导致一家公司出了一款产品,另一家公司又做了另外一套系统,系统相互之间是完全间隔的,产业用户就非常痛苦,选择一个体系,整个碎片化就产生了。”韩祖利讲到:“对于这点,我们希望在技术上大家一起去建立一些行业的技术标准,规范很多产业的结构,尽量去做很多开源。” 据透露,在九个月百度安全也会开源大概7款工具产品,这些工具产品也希望跟整个产业里一起来为企业服务。 最后就是数据。大家都知道安全的核心就是持续的对抗,对抗最主要的东西就是数据,情报的本质也是数据。所以,无论在过去、现在或者是未来,数据对我们来讲都非常重要。“我们希望大家一起在整个数据脱敏下共享这些数据,甚至联合计算可以做到非常容易,既不会泄露用户的隐私,也不会泄露商业机密,同时我们安全的架构又可以成立。”韩祖利讲到。 最后,韩祖利表示:“AI的来临是一个生产力变革的时代,但是我不是特别赞同AI是对人类有太大威胁的,在每个变革的时间节点,我们都解决了存在的问题,并且取得了很好的发展,因此在智能时代,作为一个安全的从业者,我觉得还是充满信心的。”
  • 《微软将发布安全人工智能产品,帮助客户追踪黑客》

    • 来源专题:新一代信息技术
    • 编译者:isticzz2022
    • 发布时间:2024-03-15
    •       微软公司计划在4月1日发布人工智能工具,帮助网络安全工作者制作可疑事件的摘要,并找出黑客用来掩盖其意图的狡猾方法。大约一年前,微软推出了Copilot for Security,此后一直在企业客户中试用。微软安全营销副总裁Andrew Conway表示,测试公司包括英国石油公司(BP Plc)和陶氏化学公司(Dow Chemical Co.),目前拥有“数百家合作伙伴和客户”。客户将根据使用情况支付费用,就像他们使用该公司的Azure云服务一样。       安全Copilot是微软正在进行的努力的一部分,该努力旨在为其主要产品线注入合作伙伴OpenAI的人工智能工具,并说服企业客户购买订阅。虽然人工智能可以帮助生成内容和合成公司数据,但它也会犯一些代价高昂或令人尴尬的错误。由于计算机安全是如此关键,风险如此之高,康威表示:“这家软件巨头对这款Copilot格外小心。该软件将OpenAI模型的强大功能与微软收集的大量安全特定信息相结合。考虑到用例的严重性,我们正在做很多事情来解决(风险),包括寻求对产品及其不足之处的持续反馈。尽管如此,今天安全仍然是一个安全产品产生假阳性和假阴性的地方。这就是这个领域的本质。”       Copilot与微软的所有安全和隐私软件配合使用,提供了一个助手窗格,可以生成摘要并回答问题。例如,该公司的一个安全程序已经收集了各种安全警报,并将相关警报合并为一个事件。现在,当用户点击每个事件时,Copilot可以总结数据并编写报告,这通常是一个耗时的过程。通常在攻击过程中,黑客会使用复杂的编程脚本来混淆他们试图做的事情,使其更难跟踪。Copilot旨在解释攻击者的目的。       Conway说,该软件将使经验丰富的网络安全工作者能够胜任更复杂的任务,并帮助新员工更快地掌握速度,补充他们的技能。微软表示,在测试中,新的安全人员的表现快了26%,准确率提高了35%。这很有帮助,因为网络安全行业正遭受长期劳动力短缺的困扰。       微软表示,人工智能程序还可以连接到竞争对手的安全软件,而不仅仅是微软的。英国石油公司负责网络防御的副总裁奇普·卡尔霍恩表示,20至30名员工一直在测试Copilot。他说,设置它只需要点击一两次,但他的安全专业人员花了几个月的时间才真正习惯使用这个工具。他的团队中的一些成员正在使用Copilot来寻找威胁,依靠人工智能快速扫描大量数据和警报,寻找安全漏洞的证据。更有经验的分析师可以向工具提问——用简单的英语加上人工智能所能理解的安全语言。例如,分析师可以要求提供证据,证明黑客正在使用“陆上谋生技术”通过英国石油公司的系统,这种攻击使用网络自己的工具来躲避安全防御。这种入侵在与俄罗斯和中国有关的黑客中很受欢迎。      卡尔霍恩说:“坏人的速度越来越快,我们也必须更快,所以像这样的工具真的对我们有帮助。”他的团队还利用公开的模型构建了自己的定制人工智能工具。“它还不完美。它会变得完美的。”