《机器人拥有“意识”只是时间问题:或毁灭人类》

  • 来源专题:中国科学院文献情报制造与材料知识资源中心 | 领域情报网
  • 编译者: 姜山
  • 发布时间:2017-12-21
  • 新浪科技讯 北京时间12月20日消息,据国外媒体报道,从看护婴儿的“临时保姆”到围棋大赛中打败世界冠军,人工智能机器人已无所不在,无所不能,它们正在稳步地发展,并且具备越来越先进的能力。目前,包括斯蒂芬·霍金(Stephen Hawking)教授在内的许多科学家都认为,机器人拥有意识,这仅是一个时间问题而已。

      美国俄克拉荷马州立大学电子和计算机工程学教授苏哈什·卡克(Subhash Kak)解释了如果人工智能获得意识,可能会出现的各种后果。

      忘记现今人工智能领域的缓慢进步,例如:汽车驾驶能力的提高。未来不久人工智能或将迎来突破性发展:机器人具有自我意识,并知晓周围环境,它能够实时接收处理大量数据信息。可以指派它们执行危险任务,进入太空环境或者投入战争。

      除了人们可以驾驶自动汽车之外,人工智能机器人还能做饭、保洁、洗衣服,甚至当其他人不在身边时,对老人或者婴儿进行护理。一些特殊先进的机器人甚至可以替代人类,从事任何工作。

      这将使人们从单调沉闷的日常工作中解脱出来,但是也将影响一些社会基础。没有工作仅有娱乐的生活,将是一种反乌托邦生活模式。

    同时,有意识的人工智能机器人也会引起法律和伦理道德问题,有意识的机器人会成为合法的“人”,如果它的行为伤害了某人,或者做错了什么,是否需要负责?如果进行大胆推测,或许人工智能机器人还会发生一些更可怕的事情,很可能它们会反抗人类,或许企图摧毁人类文明?如果是这样的话,它们代表了进化高潮顶点。

      作为一名从事机器学习和量子理论研究的电子工程和计算机科学教授,卡克表示,目前研究人员对于这些超意识能力机器人是否应当存在存有分歧和争议。还有一种争议表明,是否机器人应当具有“意识”,按照人类思考的方式去认知事物,或者像某些具有意识的动物。一些问题与技术相关,另一些问题则与意识的本质相关。

      许多计算机科学家认为,意识是一种随着技术发展而出现的现象。一些人表示,意识涉及接受新信息,存储检索较早信息,对新鲜事物进行认知和处理。如果意识概念是这样的,未来有一天机器人将具有终极意识能力。

      人工智能机器人能够比人类收集更多的信息,存储信息超过许多图书馆,以毫秒级的速度快速访问巨大数据库信息,计算汇总所有信息,形成更复杂的决策,并且更具逻辑性。另一方面,物理学家和哲学家表示,人类的行为是不能由机器进行计算的,例如:创造力,以及并非源自逻辑或者计算能力的人类自由意识。然而,这些并不是意识唯一的解释观点,也无法证实人工智能是否可以实现。

    另一个关于意识的观点来自量子理论,它是最深奥的物理理论。根据正统的“哥本哈根解释(Copenhagen Interpretation)”,意识和物质世界是同一现实的互补性表现。

      当某人观察或者进行实验时,某个人有意识的相互作用会引起可识别的变化。因为他把意识作为一种既定概念,而没有试图从物理学概念中获取,“哥本哈根解释”可能被称为“大C调意识”,它是一种存在于自身的“事物”——尽管意识需要大脑成为现实。

      这种观点深受尼尔斯·玻尔(Niels Bohr)、维尔纳·海森堡(Werner Heisenberg)和欧文·施罗丁格(Erwin Schrodinger)等量子论先驱者的欢迎,意识与物质之间相互作用产生的悖论置疑了80年,至今仍未解决。一个著名的例子是施罗丁格的“猫悖论”,依据该理论,猫被放置在一种情形下,其幸存或者死亡的概率是相等的,而观察行为自身是确定某些结果的原因。相反的观点是,意识从生物学中产生,就像生物学源自化学,而化学源自物理学。

      我们将这种较小膨胀的意识概念称为“小C调”,该理论同意神经学家的观点,即大脑意识过程与大脑的状态和过程是完全相同的。同时,该理论也同意近期对量子理论的解释,其动机是试图摆脱悖论,即许多世界解释理论,其观测是物理数学理论的一部分。

      科学哲学家们认为,现代量子物理学中的意识观点与远古哲学有着相似之处。“大C调意识”就像“韦丹塔(印度教的主要哲学)”的心智理论,这种意识是基于现实基础,与物质世界相平行。

    相比之下,“小C调意识”就像是佛教,虽然佛陀不会选择解决意识的本质问题,但是佛陀的追随者宣称,思想和意识源自于空虚或者虚无。很可能意识现象需要自组织系统,就像大脑的物理结构。如果是这样的话,当前的人工智能机器将出现能力缺陷。

      学者们不知道适应性自组织机器能被设计得像人类大脑一样复杂,我们缺乏计算此类系统的数学理论。或许只有生物机器才具有充足的创造力和灵活性。但是,这表明人们应当或者很快开始工程设计新的生物结构,这种生物结构可能具有一定意识。(叶倾城)

相关报告
  • 《工业机器人要“有脑子”》

    • 来源专题:中国科学院文献情报制造与材料知识资源中心 | 领域情报网
    • 编译者:冯瑞华
    • 发布时间:2019-07-19
    • 穿上“高科技”的外衣,机器人经常出现在“替代人类”的话题里,让人类心中打鼓。殊不知,在生产线24小时连轴转的工业机器人,却经常被抱怨说“太笨了”“一根筋”“不知变通”。 “传统工业机器人只能在固定的环境下,依赖精确的重复定位能力从事重复性的工作,还不能适应动态复杂的环境,或者跟人类合作完成同一项工作。”中国科学院沈阳自动化研究所副研究员张华良告诉《中国科学报》。 随着越来越多的科技人员致力于让工业机器人适用于更多场景、更易用,这一情况正在发生变化。日前,美国一家公司开发出了一种新型芯片。该芯片可以让机器人“思考”如何处理动态场景,并“想象”采取不同动作的结果,最后选择最合适的动作对外输出,以此赋予工业机器人智能。 实验室中,两个机器人装上芯片后,展现出惊人的团队合作能力,它们结伴同行,时不时传递物品,并试图绕开阻碍物品传递的障碍物。工业机器人走向智能化将会为生产生活带来哪些影响? “头脑简单四肢发达”已过时 工业机器人诞生于上世纪40年代,最初是为了从事高危工作或做人力无法企及之事,比如核燃料处理等。此后,机器人被用于汽车、电子、金属和物流等行业,从事焊接、装配、喷涂、打磨、切割、搬运和分拣等工作。 中国是工业制造业大国,自2013年起,中国也成为世界最大的工业机器人消费国。一路高歌猛进的工业机器人近期却出现下降态势,高工产研机器人研究所(GGII)的数据显示,今年一季度,中国多功能工业机器人进口量同比下降了29%。与此同时,国家统计局的数据显示,今年前4个月,中国工业机器人总产量较去年同期下滑10%。 张华良表示,据中国机器人产业联盟发布的2018年中国工业机器人市场信息显示,电子电气设备和器材制造业和汽车行业的需求下降,是导致整个工业机器人市场下降的主要原因。不过销量明显下降的多集中于外资品牌工业机器人,我国自主品牌工业机器人的销量和占比较往年反有提升。 面对总产量下滑的态势,他认为需引起业界重视,对工业机器人的研发做出调整升级。“比如复杂的编程,很大程度上限制了工业机器人的使用范围,导致工业机器人的应用面较窄。” 如何寻找工业机器人发展的突破口?张华良表示,应该拓宽工业机器人的应用领域和行业,积极挖掘中小企业的应用潜能。 梅卡曼德公司创始人兼CEO邵天兰更加简单明了,工业机器人是实现智能制造的关键基础技术。为了工业的发展,赋予工业机器人智能、增加工业机器人应用场景是必由之路。 “察言观色”还不够 何为智能?邵天兰举了一个例子。假如家中的空调能够自动根据室内的温度、人数进行调节,当它发现屋里有老人和小孩时,可自动把风调小,而发现室内有几个大汗淋漓的小伙子时,把风力增强,这就说明空调拥有了智能。 “智能最重要的特征就是感知环境并根据环境状况进行调整。因此,实现工业机器人初级智能最重要的感知能力就是视觉,其次是听觉,其他的感官加起来也没有这两者分量大。” 他认为,实现机器人的视觉和听觉目标,从硬件上说面临两处挑战:一是传感器,特别是视觉传感器;二是拥有智能决策的算法。 目前,以视觉、听觉等感觉为代表的研究成为工业机器人研发的热点。但库柏特科技有限公司创始人兼CEO李淼却不这么认为。“尽管,视觉、力控、触觉等传感器研发是‘库柏特’的核心业务,但工业机器人智能化是系统层面的问题。工业机器人是一个多学科交叉融合的产品,它的智能化涉及多方面,不能只关注视觉或触觉。” 要关注工业机器人的设计,首先要关注原始设计——这决定机器人的能力范围。其次,机器人需要具有决策判断能力,比如当一个乒乓球飞过来时,机器人需要判断来球是上旋还是下旋、正拍还是反拍,攻击发起点在哪里、落点在哪里,这些都要通过感知,之后还要判断它弹起后的状态。经过一系列“思考”后,机器人再去精准执行思考结果,将来球击出。 你以为结束了?其实还有最后最关键的一步——自省。李淼表示,机器人并不是每次都能将球漂亮击出,也有“失手”的时候,这就需要它在自省中发现问题,吸取教训,进行智能化的自动升级。 “智”爱工业 目前,智能化的工业机器人还处于实验室研究阶段,在传统的机器人的基础上“苦练本领”,提高应用性能。 在一线多年,李淼的感触更具体,他认为,大多工业机器人的研究停留在设计、感知、精准执行阶段,触及机器人决策判断的研究较少,能够把“设计-感知—判断—执行—自省”作为一个闭环研究的团队更是鲜见。 尽管尚处于设想和研究阶段,但研发人员窥见一斑,足以畅想工业机器人未来的应用场景。 邵天兰表示,智能化的工业机器人将广泛出现在自动化程度比较低的行业,比如物流等,以及人力密集型行业,比如制衣、制鞋、汽车组装、玩具组装等。 李淼介绍,他们正在研发一款拣蘑菇的机器人。香菇虽然长在同一个地方,但其花纹不同,需要对其进行分类。以往靠人工分拣香菇,赋予工业机器人“分拣”的视觉后,机器人就能对香菇进行判断。 工业机器人被赋予更多智能,它的应用范围将更加广阔。“未来,工业机器人的应用场景将会越来越多,日常生活需要的服务机器人、助残机器人、养老机器人等,也会用到工业机器人的技术,但不可否认的是工业机器人目前的主战场在工业领域。”张华良说。 解放人类劳动 谈及工业机器人是否会替代人类的工作,张华良表示,在某些层面是一定的。比如工厂流水线上,按品类挑选产品的分拣员、打磨器件的工人、检查产品质量的质检员等均有可能被工业机器人取代。“从积极的角度看,随着人类被工业机器人取代,可以督促人类找到新的就业方向。鼓励人类增加工作技能,拥有更复杂的工作能力,这种转变对人类发展是有意义的。” 李淼表示,虽然机器人会替代一部分人,但这些工作大多是重复性的、繁重的,甚至有毒有害的体力劳动,与其说“替代”不如说“解放”,将人力解放出来。当低端的岗位用机器人替代后,人力成本降低,更好的岗位就会在国内涌现。 他强调,除了关注是否会“替代人类”,还应该注意工业机器人给工业数据带来的变革。智能的实现必须通过数据,智能化的核心就是基于数据的决策。工业机器人智能化的过程,也是让工业数据变得更有价值的过程,这才是工业机器人智能化最大的贡献。
  • 《脸书发明“最像人类”的聊天机器人》

    • 来源专题:光电情报网信息监测服务平台
    • 编译者:husisi
    • 发布时间:2020-05-07
    • 参考消息网5月1日报道美媒称,脸书公司4月29日说,这家社交媒体巨头的研究人员发明了一种聊天机器人,它可以进行长时间的开放式对话,比现有的任何软件都更像人类。 据美国《财富》杂志网站4月29日报道,脸书在一篇博文中说:“这是聊天机器人首次学会融合关键的对话技巧——包括扮演角色、讨论几乎任何话题和表达共情。” 报道称,事实上,通过亚马逊公司“土耳其机器人”服务平台招募的评委说,他们喜欢与脸书聊天机器人交谈,喜爱程度几乎和他们与真人对话不相上下。评估人员说,在49%的情况下,他们更喜欢与这款聊天机器人进行简短对话,而不是进行类似的人与人之间的对话。参与该项目的脸书工程师斯蒂芬·罗勒说:“这表明我们这款机器人非常接近人类的水平。” 大多数商用聊天机器人,比如亚马逊公司的Alexa和苹果公司的Siri,只能熟练地围绕一系列具体任务展开对话:告诉你天气预报,或者告诉你最近的邮局怎么走。 脸书研究人员制造的这种聊天机器人与之不同。它被称为“开放域聊天机器人”,能够就任何话题进行对话。罗勒说:“它可以跟你谈论任何事情——你今天早餐吃的什么,哪些谷物给你的孩子吃最健康,或者你最喜欢的体育团队。” 脸书将这种聊天机器人称为“融合者”,因为它能够“融合”成功对话所需的各种技能。它还利用此前的纪录保持者、名为“米娜”的聊天机器人生成的对话进行了测试。“米娜”是脸书在硅谷的竞争对手谷歌公司在今年早些时候发明的。 “融合者”比“米娜”优秀得多。67%的评估者认为“融合者”讲话听起来更像人类,而75%的人说他们更愿意和“融合者”而不是“米娜”长谈。 报道称,虽然强大的聊天机器人都有明显的商业应用,但脸书表示,它没有立即将“融合者”变成产品的计划。不过,该公司的确已经拥有聊天机器人界面,第三方可以在脸书的Messenger应用中使用,而且脸书的沃茨阿普(WhatsApp)平台也允许企业使用聊天机器人。“融合者”项目的另一名工程师埃米莉·迪南说:“现阶段只是做研究。我们目前不打算将其产品化。” 脸书研究人员提醒说,“融合者”与人类相比仍有许多缺点,包括有时说话前后矛盾、重复自己的话甚至编造不准确的信息。对话持续时间越长,这些问题就越明显。基准研究采用14“轮”对话。 迪南说,这种聊天机器人只能记住前几轮对话的信息,因此对话越长就越可能重复自己说过的话。 报道指出,目前“融合者”只接受过英语培训。迪南承认,其他语言可能会给它的开发带来更多挑战,因为这种聊天机器人需要像人类一样熟练掌握正式和非正式的时态和敬语。