登录
 机构网站
  1. 首页
  2. 情报产品
  3. 快讯详情

《美国军事智库：人工智能可能在2040年发动核战争》

  • 来源专题：中国科学院文献情报制造与材料知识资源中心 | 领域情报网
  • 编译者： 冯瑞华
  • 发布时间：2018-05-02

  • 美国知名军事智库兰德公司(RAND Corporation)日前发布报告称，人工智能(AI)可能会在2040年发动核战争。

    兰德公司在报告中警告称，人工智能可能打破地缘政治稳定性，突破当前核武器仅作为威慑手段的地位。

    兰德公司在发布这份报告前，咨询了大量专家。报告称，将来人工智能可能会鼓励人类做出灾难性的决定。例如，传感技术的提升可能会导致一些报复性力量被摧毁，如潜艇和可移动导弹。

    此外，人工智能也可能引诱某个国家对另一个国家发动“先发制人”的打击，以获得讨价还价的能力，即使该国本来无意发动攻击。

    这份报告的联合作者安德鲁·洛恩(Andrew Lohn)称：“一些专家担忧，人类越来越依靠人工智能可能会导致一系列新的灾难性错误。在技术成熟之前，使用人工智能技术存在极大风险，很可能遭到背叛。因此，在未来数十年，维持战略稳定可能很困难。所有核大国都应重视该问题，以限制这种核风险。”

    这份报告主要强调了使用人工智能技术可能对军事决策带来的风险，而不是关注自动驾驶飞机等其他威胁。

    这份报告还提到了1983年前苏联发生的一次虚假核警报事件。当时，前苏联一座核导弹预警中心的电脑发出遇袭警报，后来证实是一次虚假警报。

    报告另一位联合作者爱德华·盖斯特(Edward Geist)称：“核战争和人工智能之间的关联并不是新话题。在历史上，两者之间有过交集。事实上，许多人工智能的早期研究，都是为了支持军事，或者是有军事目的。”

    在此之前，已经有许多业界领袖和专家对人工智能在军事领域的应用发出警告。例如，包括特斯拉CEO埃隆·马斯克(Elon Musk)在内的100多名业内人士曾向联合国呼吁，阻止开发杀伤性自动化武器。

    此外，马斯克本月初还曾表示，人类可能在不知不觉中就创造了“一个不朽的独裁者”，并将永远无法摆脱它们的统治。他说，人工智能的独裁统治期限将远超出任何一个政权，从而实现对人类的无限期压迫。

364浏览量
原文链接
相关报告

  • 《特朗普欲将AI用于军事关键任务，兰德公司警告2040年前或导致核战争》
    • 来源专题：中国科学院文献情报制造与材料知识资源中心 | 领域情报网
    • 编译者：姜山
    • 发布时间：2018-05-02
    • 美国国防部副部长透露，特朗普政府对利用人工智能帮助军方更高效、成本更低地执行一些关键任务非常感兴趣，五角大楼已经准备在未来6个月内建成一个整合多个AI项目的新中心。于此同时，美兰德公司发布报告，警告说AI在军事任务中的应用可能增加核战争的风险。 据美国非盈利新闻调查组织CPI的报道，美国国防部的第二把手上周二透露，特朗普政府对利用人工智能帮助军方更高效、成本更低地执行一些关键任务非常感兴趣。 美国国防部副部长、前波音公司高管Patrick Shanahan表示，人工智能（使用计算机系统执行通常需要人类智能的任务）可以帮助国防部更好地利用其收集的大量情报数据。 他还表示，AI可以用于加强军事后勤能力，在正确的时间为士兵和维修人员提供适当的零件和装备。AI也可以促进更明智的决策，为军方人员提供医疗服务，从而节省成本。 Patrick Shanahan以及其他高级国防官员说，五角大楼已经准备在未来6个月内建成一个“卓越中心”（Center for Excellence），将多个现有的与AI应用相关的军事计划整合在一起，为这项工作带来更多连贯性和动力。 在Shanahan向防务作家团体（Defense Writers Group）发表上述讲话的同一天，兰德公司（Rand Corporation）发布了一分公开报告，警告说AI在军事任务中的应用可能导致令人担忧的负面影响，包括：AI可能通过巧妙地破坏核威慑的一个关键根基，从而增加核战争的风险。兰德公司是美国的一个智库，主要为美国军方提供调研和情报分析服务。 兰德报告：人工智能可能在2040年前增加核战争的风险 这份新报告题为《人工智能可能如何影响核战争的风险》（How might Artificial Intelligence Affect the Risk of Nuclear War），报告指出，AI具有破坏核安全基础的“巨大潜力”。这个严峻的结论是兰德组织的一系列研讨会得出的，参与该研讨会的人员包括AI、核安全、政府和军方的专家。这是兰德公司Security 2040项目的一部分，旨在评估AI以及其他现金计算在未来20年里对核安全的影响。针对这一报告的结论，兰德正在呼吁国际社会就此进行对话。 这一讨论的核心是核威慑的概念，即保证“相互保证毁灭”（MAD）或“保证报复”（assured retaliation），防止一方对有同等武装的对手发射其核武器。这是一种冷酷、计算式的逻辑，至少在我们经历过的历史阶段，它至少阻止了一场全面的核战争，让理性的、自我保护的大国选择了对抗冷战。只要没有一个核力量维持有重大的先发制人的能力，MAD的概念就仍占据主导地位；如果一个武器系统能够在第一次攻击中幸存下来，并以同等的力量回击，那么“保证报复”就仍然有效。但是如果一方失去了反击的能力，或者即使它开始认为它有失去这种能力的风险，这样的体系就可能削弱并变得不稳定。 这个方程式鼓励国家行为者避免采取可能破坏当前地缘政治平衡的行为，但是，正如我们在过去几十年里一再看到的那样，核大国仍欲图“先发制人”。例如，隐形轰炸机、核潜艇的发展，以及最近俄罗斯总统弗拉基米尔·普京(Vladimir Putin)展示的“无敌”弹道导弹。 值得庆幸的是，这些发展都没有真正地结束超级大国在第一次打击后的反击能力，但正如兰德的新报告指出的那样，先进的人工智能技术与无人机、卫星以及其他强大的传感器等监视技术相结合，可以削弱这种促使微妙的冷战平衡得以保持的技术平衡。该报告称，人工智能将通过对敌方安全基础设施实行大规模监控，发现人眼看不到的模式，揭示其破坏性的漏洞，从而实现这一目的。 报告作者之一，兰德公司的一名工程师Andrew Lohn说：“这可不仅是电影里的场景，如果我们不加以小心，很简单的事情就可能引发紧张局势，将我们带到危险的局面。” 一个暴露着的敌人突然意识到它很容易遭受“先发制人”，或者意识到它可能很快就会失去反击的能力，将陷入一个非常不利的位置。这种情况可能会迫使处境不利的国家寻找能够恢复平衡的方法，它的行动可能会变得像被逼到角落里的金刚狼一般。先进的人工智能可能导致一个充满不信任、竞争的新时代，孤注一掷的核大国会愿意承担灾难性的、甚至毁灭性的风险。 令人不安的是，即将失去“保证毁灭”可能会导致所谓的预防性战争，即一场以阻止敌方获取攻击能力为目的的战争。例如，在第一次世界大战前的几年中，德国严重担忧作为其竞争对手的俄罗斯开始成为重要的地区强国。德国专家预测，俄罗斯将能够在20年内在武装冲突中击败德国，这引发了一场预防性战争。而在二战结束后不久，美国的一些思想家，包括哲学家伯特兰·罗素和数学家约翰·冯诺伊曼，呼吁在苏联发展自己的核弹之前，对苏联实施先发制人的核打击。 正如这些例子所显示的那样，事态的发展如果要破坏军事优势或平衡状态（即MAD），这一时期可能是非常危险的，会引发各种疯狂的想法。正如兰德公司的报告指出的那样，我们可能正在进入另一个这样的转型期。作者在报告中写道，人工智能“有可能在2040年前加剧核战略稳定面临的挑战，即使技术进步的速度不大”。 兰德公司的助理政策研究员，该报告的合作作者Edward Geist说，自主系统不需要通过杀人来破坏稳定性，更有可能的是造成灾难性的战争。他在一份声明中说：“新的人工智能能力可能会让人们认为，如果他们犹豫不决的话，他们就会失败。”这可能会导致他们扣扳机的手指更加跃跃试试。到那时，尽管人类仍处于“控制”状态，AI将使战争更有可能发生。 最后，作者警告说，未来可能会出现严峻的形势，但作者也同意AI也可能迎来前所未有的稳定时代。 他们写道： 一些专家担心，对AI的日益依赖可能导致新的灾难性错误。在技术成熟之前，使用AI可能会有压力；它可能易受对抗性的破坏；或者敌方可能认为AI比它实际上的能力更强大，导致他们犯下灾难性的错误。另一方面，如果核大国设法建立一种与AI可能提供的新能力相适应的战略稳定形式，就可以减少不信任并缓解国际紧张局势，从而降低核战争的风险。 作者们表示，无法预测这两种情景哪一种会发生，但国际社会必须立即采取行动，以减轻潜在的风险。在解决方案而言，作者提出了国际讨论，建立新的全球机构和协议，发展创新技术、外交和军事保障等。 这是技术的双刃剑。AI既可以导致我们的厄运，也可以像在《巨人：福宾计划》（Colossus：The Forbin Project；1970）和《战争游戏》（War Games，1983）等电影中那样，保护我们免于由于自己的错误而毁灭。那么，最好记住这句古老的格言：抱最好的希望，做最坏的打算。
    114浏览量
    原文链接

  • 《人工智能帮助新药研发》
    • 来源专题：中国科学院文献情报制造与材料知识资源中心 | 领域情报网
    • 编译者：冯瑞华
    • 发布时间：2018-12-03
    • 在古代，神农尝百草，这其实就是人工筛选药物的过程。 在现代，看过电影《我不是药神》的人也会知道，新药研发的成本是极高的。 在综艺节目《奇葩说》中，经济学家薛兆丰提到：每一款新药研发的周期大约是20年，平均每款新药的研发费用高达20亿美元。 所以，新药研发是一个高风险高回报的行业。 人工智能时代，情况有了很大的变化，人工智能可以对新药研发有很大的帮助。 药的分类 要理解人工智能对新药研发的帮助，首先需要对药物做一个大致的分类。从药物分子的大小来分，一般可以把药物分为二类。 1． 化学药 化学药的起效成分是单一、明确的化学小分子，分子量通常小于 1000 道尔顿（也就是1000个质子质量）。这种药可以通过实验室化学合成制备，其分子结构可以用紫外可见分光光度计，核磁共振与红外光谱仪等仪器鉴定。这种药物分子可以直接进入细胞产生药效。 著名的阿司匹林（aspirin）就是一种化学药，阿司匹林于1899年3月由德国化学家发明，可用于治疗感冒、发热、头痛等病症。再比如伟哥（viagra）是由美国辉瑞研制开发的一种口服治疗男性性功能障碍的药物，在音乐人李宗盛等人演唱的《最近比较烦》这首歌中，有这样一句“我梦见和饭岛爱一起晚餐， 梦中的餐厅灯光太昏暗， 我遍寻不着那蓝色的小药丸”，这个蓝色的小药丸就是伟哥 ，这也是一种化学药。 2． 生物药 生物药一般是抗体、蛋白（多肽）、核酸类药物，分子量通常远大于1000 道尔顿。所以生物药是大分子药。 比如治疗糖尿病的人工胰岛素就是一种生物药。1958年，中国科学院在王应睐、曹天钦、邹承鲁、钮经义、沈昭文等先生的带领下，正式启动人工合成胰岛素项目，1966年取得巨大成功。我国人工合成的胰岛素其实就是一种人工合成的蛋白质分子，这是一种生物药。 对于人工智能新药研发来说，多数情况下比较适合处理化学药，对于大分子生物药的研发，目前的人工智能技术还有点力不从心。 新药研发与药物靶点 要理解新药研发，我们还要看一下为什么一个人会生病——因为药物是用来治病的。从分子生物学的角度来说，有的病情是由于分子的表达缺失引起的，比如胰岛素降低引起糖尿病；也有的病情是因为分子的表达过强引起的，比如组胺过高引起过敏。 那么，人为什么会生病呢？因为身体是由细胞组成的，细胞是由化学小分子和生物大分子共同组成，它们并不是简单地拼凑在一起，而是相互级联作用构成一个复杂庞大的网络，不同的生理功能可以看成这个巨大网络中一条条串联的线路。 我们身体的疾病，除了外科损伤之外，多数是这个网络上某个线路发生了异常，这就好像某条交通线发生了堵塞一样。吃药的目的就是打开这个拥堵点。这个拥堵点也就是药物分子需要作用的“靶点”。 在分子生物学出现之前，没有药物靶点这个概念。在那个时候，无论是全球各地的草药，还是偶然发现的青霉素，都是根据经验、猜测或者迷信来揣度人体的发病原因。中药就是其中一个例子，一般中药有副作用，这就是因为中药不是根据分子生物学设计出来的，所以它的靶点很散乱，相当于是用散弹枪去打靶，而现代西药则好像是用狙击枪去打靶。 因此，人体内的所有分子都可能成为潜在的靶点，这些分子有可能在细胞膜上，或者在细胞质里，有些可能在细胞核里；这些分子也可能在血液里，或者在大脑中——不同分子的特点不同。比如抗体等生物大分子只能与体液和细胞膜上的分子结合，而化学小分子则更容易穿透细胞膜甚至进入细胞核发挥作用。不同药物进入体内的方式是不同的，一个好的药物需要保证它们不要在进入体内的途中损失掉（比如被胃液的酸性腐蚀等等）。而且药物的设计必须有很好的靶向性，比如有的药需要进入大脑，那么就需要穿过血脑屏障；有的药为了不影响婴儿，则希望它不要透过母婴屏障。最好的药物设计的标准是：设计出来的药只与想治疗的器官和分子发挥作用，而不产生其他的副作用。但是，由于生物功能是一条线路，这个线路上可能不止一个分子有成为靶点的潜力，因此要找到最关键的靶点才会最有效果。但事情没有那么简单，在生物体中，同样一个分子可能是多功能的，如果抑制了这个分子，可能就会引起其他正常功能的损伤，这就是产生副作用，有些副作用还很严重，因此，要选择非常干净特异的分子作为药物靶点。 药物靶点这个概念是分子生物学发展的产物，尤其是基因测序技术发展起来之后才有的新概念。通过研究找到真正作用的原因（分子机理），可以为药物研发提供了新的原理。 人工智能帮助新药研发 人工智能是需要有大数据作为原料的，而新药研发领域其实是一个大数据非常丰富的宝库，因此这为人工智能提供了用武之地。比如1959年《药物化学》杂志创刊至今，至少发表了45万种化合物作为药物的研究对象，这是一个巨大的数据库，对于这样的大数据，人工智能可以发挥它的独特作用。 不久前，《科学美国人》与世界经济论坛发布了2018年十大新兴技术，人工智能辅助化学分子设计——机器学习算法加速新药研发就是其中之一。 目前，在全球有至少100家企业正在探索新药研发的人工智能方法，在国外，葛兰素史克、默克、强生与赛诺菲公司都已经布局人工智能新药研发。在中国，也涌现了深度智耀、零氪科技与晶泰科技等人工智能新药研发企业，药明康德也战略投资了美国的一家人工智能新药研发公司。 对于化学分子的设计而言，以前的设计是通过人员对分子各种侧链和基团化学性质的经验，人工设计药物。这个过程就跟程序员写程序一样，有的人有天分，写一个程序就能成功运行，有的人没天分，设计了许多也没有好用的。因此，在当时就有很多人说，药物的化学设计是一种艺术，甚至是一种玄学。 现在，则可以用机器来学习药物和药物靶点的结合特点，从而让机器来进行药物设计，这也能大大提高成功设计的概率。人工智能通过计算机模拟，可以对药物活性、安全性和副作用进行预测。 人工智能可以应用在药物开发的不同环节，包括虚拟筛选苗头化合物、新药合成路线设计、药物有效性及安全性预测、药物分子设计等。为什么人工智能提高新药研发的效率呢？因为人工智能有很强大的发现关系的能力，还有很强大的计算能力。在发现关系方面，人工智能可以发现药物与疾病的连接关系，也能发现疾病与基因的连接关系。在计算能力方面，人工智能可以对候选的化合物进行筛选，更快筛选出具有较高活性的化合物，为后期临床实验做准备。人工智能在化合物合成与筛选方面可以比传统手段阶段40％的时间，每年为药企节约上百亿的筛选化合物的成本。 人工智能技术的出现，为中国在新药研发的国际竞争中实现弯道超车提供了一定的可能性。
    199浏览量
    原文链接