《人工智能时代如何构建安全生态?》

  • 来源专题:中国科学院文献情报制造与材料知识资源中心 | 领域情报网
  • 编译者: 冯瑞华
  • 发布时间:2018-09-06
  • AlphaGo与人类博弈胜利,已经注定了人工智能的发展将成为未来科技发展的主流方向之一,并且正在不断渗透到我们整个社会中来,智能制造、智能零售、智慧园区、医疗健康、智慧教育、智慧城市方方面面都离不开人工智能的存在,这无疑是一片巨大的蓝海。

    然而,机遇与挑战并存,面对飞速发展的人工智能尚不能盲目乐观。在AI的世界里,安全远远不只是我们传统讲到的一些网络、系统以及软件的风险,在AI时代里传感器的安全、数据的风险也成为非常重的层次。

    那么如何解决这方面的安全问题呢?对此,百度安全事业部产品总经理韩祖利讲到:“安全不是一家或者一个公司就可以做好的,需要全行业一起建立一个共赢共生的安全生态。安全生态的建设,离不开关系、技术和数据三大关键点。”

    AI时代生态安全面临挑战

    在韩祖利看来,人工智能所面临的安全挑战,纵贯传感器、软件、数据、系统、网络多个层面。当下,尽管人工智能在某些方面精准度可超过人类,显著提升规则化安全工作的效率,但在复杂情况下还远远达不到,且极易受干扰。

    他举例称,比如我们在图片里恶意的插入一些信息,也就是通过数据投毒来欺骗机器人。

    此外,随着深度学习的发展,现在越来越多的智能设备开始应用生物识别技术,但这一技术也存在风险,因为生物特征极易被采集、复制、且复制成本低廉,此外人工智能行业尚缺乏统一标准,生物认证单靠一个因子并非完全可靠。

    智能摄像头也非常大比例的存在一些安全性的问题。如果摄像头是放在机房里还好,如果放在家里,那么对整个个人隐私威胁非常之大。

    近期,信通院泰尔实验室联合百度安全面向市面上的主流智能电视进行了安全漏洞测评,结果无一幸免。“AI时代假如没有安全,家里各种智能家居都会向你发出勒索请求。AI确确实实给我们带来了好处,而它带来的风险也是非常剧烈的,并且就在我们身边。”韩祖利说。

    共建安全生态离不开三个点

    针对AI可能带来的安全问题,并不是一家企业和公司就可以做好的,需要整个行业的共同努力,建立一个安全的生态来使整个行业获得更好的安全防护。

    对此,韩祖利总结了三个关键点。首先是关系,所谓的关系就是建立信任,包括人与人之间的信任、公司与公司之间的信任以及跨产业合作的信任。“因为合作,可能他们会对安全有更加清晰的认识,并且逐渐开始认可这方面,这就是合作产生的一种信任。”韩祖利说。

    其次就是技术,要防止碎片化。“我们经常看到因为交流较少,导致一家公司出了一款产品,另一家公司又做了另外一套系统,系统相互之间是完全间隔的,产业用户就非常痛苦,选择一个体系,整个碎片化就产生了。”韩祖利讲到:“对于这点,我们希望在技术上大家一起去建立一些行业的技术标准,规范很多产业的结构,尽量去做很多开源。”

    据透露,在九个月百度安全也会开源大概7款工具产品,这些工具产品也希望跟整个产业里一起来为企业服务。

    最后就是数据。大家都知道安全的核心就是持续的对抗,对抗最主要的东西就是数据,情报的本质也是数据。所以,无论在过去、现在或者是未来,数据对我们来讲都非常重要。“我们希望大家一起在整个数据脱敏下共享这些数据,甚至联合计算可以做到非常容易,既不会泄露用户的隐私,也不会泄露商业机密,同时我们安全的架构又可以成立。”韩祖利讲到。

    最后,韩祖利表示:“AI的来临是一个生产力变革的时代,但是我不是特别赞同AI是对人类有太大威胁的,在每个变革的时间节点,我们都解决了存在的问题,并且取得了很好的发展,因此在智能时代,作为一个安全的从业者,我觉得还是充满信心的。”

相关报告
  • 《三星、美的等巨头发力人工智能,生态链之争掀高潮》

    • 来源专题:中国科学院文献情报制造与材料知识资源中心 | 领域情报网
    • 编译者:冯瑞华
    • 发布时间:2018-05-23
    • 第二届世界智能大会召开,云集了众多大咖,也涌现出智能终端、智能家电、智能服务机器人等一大批先进的智能产品。人工智能的进步也推动了重大装备的智能升级。 中国工程院院长周济表示,“新一代人工智能已经成为新一轮科技革命的核心技术,正在形成推动经济发展的巨大引擎。” 人工智能的发展远远超出了人们的预期,它不再像科幻电影里那样遥不可及,而是从各个领域渗透到了我们的生活之中。它在飞速的发展,并推动着科技的进步、人们生活的改变。 在人工智能加快渗透之下,消费电子巨头们更是加快了抢占市场的步伐,各阵营企业在生态平台的构建上也是卯足了劲,生态链之争愈演愈烈。 人工智能军团竞技人机交互 近两年,人工智能热度持续上升,手机、家电、家居、互联网科技等多领域企业争相进军智能产业链。 正在向科技巨头转型的美的不惜耗费巨额资金收购德国机器人巨头库卡,只为在人工智能、智能装备领域完善布局;三星发布智能物联网IOT战略愿景,拟在2年内实现旗下所有设备接入物联网;海尔也推出了Ubot机器人、建立多家智能工厂、推出全套解决方案,将智能装备视为空调和电机之外的第三大业务发展方向。 中怡康时代研究专家左延鹊认为,从宏观环境来看,国家在政策上对人工智能的支持力度越来越大,同时,人工智能也越来越受到投资方的青睐。当下,人工智能从想象走向了现实,迈入场景驱动阶段。 目前,人工智能的突破和应用,更多体现在人机交互上。如果不具备人机交互,那么巨头们竞相布局的“智能生态”也就只是一个摆设。因此,企业在智能领域的争夺,实际上也是一场人机交互技术的比拼。 不过,如何让机器对人类的自然语言、模糊的表达、习惯行为有更精准的识别,让机器学会像人一样理解语义和图像,是人工智能面临的最大挑战与难点。 目前,海尔、长虹、美的、海信等企业都在人机交互领域进行了探索,在近期不约而同地发布了有着多样交互的智慧生活、智能制造最新解决方案。 三星也推出了人工智能平台Bixby,创新人机交互方式。据悉,三星Bixby整合了众多软硬件,其可判断用户的指令,并可以理解当前的使用环境,让这一系统被唤醒时不会打断用户正在进行的任务。 三星电子内部人士表示,三星Bixby除了完成单一模式的指令,还可以完成多种模式的交互指令,如语音、视觉、提醒、主页。同时这一系统将不断学习用户的使用习惯,具备交互式学习机制,通过开放用户定制接口,提升用户体验。 随着巨头们的布局加快,语音技术、人脸识别等多项人工智能技术的发展也步入成熟应用期,进而助推智能家居进入场景驱动阶段。 据中怡康线下监测数据显示,2017年智能电视零售量渗透率已达88.9%,正在逐步形成集影视、购物等为一体的娱乐生态使用场景。智能冰箱等产品的使用场景已涉及采购、物流、推荐、烹饪等围绕食品的生态链。 左延鹊认为,人工智能发展到第三阶段,场景驱动成为主要驱动力,智能产品可以在不同场景下实施不同的决策方案。未来,智能教育、智能医疗领域出现巨大空间,服务机器人也将迎来井喷期。 生态链之争 随着三星、谷歌、微软、小米、海尔等具有实力的大型企业纷纷打造智能生态圈,如今的智能产品已然从单品竞争进入到生态圈之间的竞争,且这一竞争越发激烈。 万物互联的时代正在到来,物联网的发展正加速让人工智能成为现实。而众多消费电子巨头也正在试图抓住这一风口,抢先拿下整条生态链。 美的在扩大智能制造的产业版图后,今年提出了“人机新世代”战略,并宣布正式入局工业互联网。 而三星今年以来动作频繁,也直指人工智能生态。三星电子方面表示,三星将人工智能平台Bixby搭载于三星Galaxy S9、S8、Note8等系列旗舰手机产品当中,这是三星在人工智能领域迈出的第一步。目前三星的布局已经进入人工智能+物联网阶段,三星的目标是构建万物互联的生态环境。 近日三星又推出首款人工智能电视,以京东物联云为基础,将人工智能(AI)技术与物联网(IoT)技术相融合,欲造“互联+人工智能”概念,实现智慧升级。按照三星的战略,其计划还将这一人工智能系统复制到其他电子设备或家用电器中,如冰箱、空调等,将整套智能家居产品连接到同一网络,最大限度地提高家用电器的可用性,抢先布局整个产业链。 而小米生态链上的大部分企业也都涉足人工智能领域。根据小米的招股书,此次其计划将IPO募集资金的30%用于研发及开发智能手机、人工智能音响等核心产品,30%用于扩大投资及强化生活消费品与移动互联网产业链。 中国人工智能学会理事兼上海人工智能学会秘书长汪镭表示:“不难看出无论是三星、美的还是小米,他们都在加快建设自己的人工智能系统,通过让自己的物联网智能设备生态链和人工智能系统相结合,从而渗透整个生态系统,以抢占话语权和主导力。同时,未来家电、科技巨头之间的合作还会加强,矩阵和同盟依旧会不断出现,各大巨头在硬件、终端平台、智能系统的合作将让整个终端设备的智能交互体验进一步提升。”
  • 《5G、特高压、人工智能 央企如何“重仓”布局新基建》

    • 来源专题:装备制造监测服务
    • 编译者:zhangmin
    • 发布时间:2020-05-06
    • 新基建按下快进键,中央企业加速布局。   国务院总理李克强4月28日主持召开国务院常务会议,部署加快推进信息网络等新型基础设施建设,推动产业和消费升级。   会议指出,要加快信息网络等新型基础设施建设,以“一业带百业”,既助力产业升级、培育新动能,又带动创业就业,利当前惠长远。   一位央企人士表示,要找准“新基建”在企业发展进程中的切入口,明确新在何时、基在何处、建向何方,加大投入、厚植土壤,选好试点、“重仓”布局,才能让新基建释放企业新动能。   5G建设火力全开   5G是新基建的“领头羊”。截至3月底,我国已建成5G基站19.8万个,三大运营商正在争分夺秒加快5G网络建设进度。   中国电信集团有限公司总经理李正茂日前表示,中国电信力争今年建成的5G基站覆盖全国所有地级以上城市,实时开展5G商用业务,计划实现5G独立组网全球首发商用。据工信部近日发布消息称,预计年底全国5G基站数超过50万个。   各地也相继发布2020年5G建设计划。   比如,云南省明确2020年启动5G独立组网和5G基站规模部署,实现5G正式商用:江西省提出,全面启动5G网络规模部署和应用场景发展,加快成立5G产业发展基金,制定5G全产业链企业目录。 中国航天科工二院23所研制的铁氧体材料样品顺利交付   近日,由中国航天科工二院23所研制的铁氧体材料样品顺利交付。该产品是“新基建”中建设5G宏基站所需材料。   为充分把握5G时代的通信体制变革机遇,拥有50多年铁氧体生产经验的中国航天科工二院23所瞄准5G宏基站所需铁氧体环形器这一市场,不断创新技术,开发迎合市场需求的材料。预计,2020年,仅5G宏基站中铁氧体环形器的市场容量就能达到30亿元。   航天科工二院相关负责人介绍,在5G产品的创新攻关过程中,23所形成了“5G材料专班”“5G周报研讨”和“5G党员突击队”三线并行的组合式攻关策略,持续优化产品、研究先进工艺技术,并在有些技术无例可循的情况下,从零开始钻研,直到实现应用,有力推动了项目整体进度。   特高压工程全面开复工   作为“新基建”的重头戏,特高压代表着经济社会发展和产业提质振兴的主攻方向,具有产业链长、带动力强、经济社会效益显着等优势。我国是特高压输电领域唯一实现大规模投入商业运营的国家。   华北电力大学能源互联网研究中心主任曾鸣对第一财经记者表示,特高压投资超预期,与当前经济形势有关,新冠肺炎疫情带来的经济放缓,加大特高压投资,产业链上多个行业都会受益,进而提振经济。   陕北—湖北±800千伏特高压直流工程湖北段日前正式开工,武汉换流站施工现场繁忙有序。这是伴随着复工复产步伐,湖北省开工的首个重大能源项目,拉开了湖北未来3年新增近3000千米特高压输电线路的建设大幕。   目前,国家电网覆盖范围内的8项特高压工程全面开复工,全年特高压建设项目投资规模1811亿元,可带动社会投资3600亿元,整体规模5411亿元,服务经济高质量发展,为未来经济发展提供新动能。   随着国家电网公司特高压工程的开复工,为其供应主设备的骨干设备制造企业等也纷纷复工。以湖南长高高压开关有限公司为例,该公司为青海—河南特高压提供的项目产品涉及合同金额超过2300万元。 昆柳龙直流工程±800千伏龙门站正在紧张施工中   作为特高压直流技术的攻坚力量,南网科研院科研工作者已连续攻克了特高电压、特大电流下的绝缘特性、电磁环境、设备研制、试验技术等世界级难题。   西起云南昆明,东连广西、广东,跨越近1500公里,在世界首个特高压多端混合直流工程、国家特高压多端直流示范工程——昆柳龙直流输电工程的沿线上,上万名施工人员正热火朝天地进行架线、安装、调试等工作。   南方电网高级技术专家李岩表示,昆柳龙直流技术攻关进入了新阶段,一定要通过工程建设,掌握一批具有自主知识产权的核心技术和关键技术。按照今年8月30日前投产的工期计划,昆柳龙直流输电工程的攻坚已进入决战状态。   除了特高压,南方电网还在加紧布局新能源汽车充电桩。汽车充电不仅是一个物理充电桩,更具有智能电网、互联网、物联网、大数据的基因和功能。   南方电网公司近期将在粤港澳大湾区、海南自贸区以及桂、滇、黔重点城市布局集中式充电站。南方电网旗下电动汽车服务有限公司透露,计划在未来4年投资251亿元投建充电设施,建成大规模集中充电站150座,充电桩38万个。   人工智能加快融入电网   融合基础设施是新基建的重要内容之一,主要是指深度应用互联网、大数据、人工智能等技术,支撑传统基础设施转型升级,进而形成的融合基础设施,比如,智能交通基础设施、智慧能源基础设施等。   3月29日,南方电网全网统调最高负荷1.39亿千瓦,全网统调发售电量为27.38亿千瓦时。在此前一天,“南方电网调度驾驶舱AI负荷预测模板”已经测算出这些数据。   AI技术应用到负荷预测上,仅是智能技术融入南方电网生产领域的一个例子。按照“智能装备、智慧运行”推广应用思路,“十四五”期间,南方电网公司将重点推广图像智能识别、无人机自动巡检、电缆隧道机器人巡检、光纤振动在线监测等成熟技术,试点推进北斗高精度定位、无人机集群作业、两栖机器人巡检作业等新技术应用。 中国华电下属南京国电南自自动化有限公司的生产车间   近日,国家能源集团下属国电电力联手科环集团成立“物联网智能设备智慧电厂联合创新实验室”,共同推进物联网、智能产品与智慧电厂深度融合,联手推进物联网智能设备智慧电厂建设。   国家能源集团相关负责人告诉第一财经记者,智慧电厂通过大规模应用三维建模、虚拟电子围栏、智能门禁、视频监控联动、智能视频识别、智能可穿戴设备,实时监测、诊断、分析、报警和反馈控制生产现场人员、设备、工作流状况,实现发电厂全天候、全方位、智能化的安全管控,同时通过应用智能机器人、智能仪表、智能执行机构,不断替代人的高重复、高强度和高危险劳动,逐步实现无人巡检、无人操作和智慧运行,实现“无人电厂、精准预测、少人管理”智慧火电厂建设目标。   国网上海市电力公司总经理阮前途在媒体上表示,当前正在经历着能源革命,风电、光电、水电等新能源等占比越来越高。但同时,新能源消纳过程中存在时空不定、瞬时峰谷波动大等因素,为保证供电可靠性和稳定性,要求电网在功能形态上向智慧的现代能源服务体系演进。在能源革命与技术革命的双重驱动下,构建智能化的现代能源服务体系迫在眉睫。   中国企业研究院首席研究员李锦对第一财经记者表示,新基建是稳增长的重要抓手,有利于高端要素投入,为推动我国供给侧结构性改革创造新动能。新基建不能走政府主导投资的老路,而是以企业投资为主,央企、大型国企将是投资新基建的主力军。