《澳大利亚军方投资研究具有道德约束力的人工智能武器》

  • 来源专题:中国科学院文献情报制造与材料知识资源中心 | 领域情报网
  • 编译者: 冯瑞华
  • 发布时间:2019-03-04
  • 澳大利亚军方投资研究具有道德约束力的人工智能武器 . 出自:新华社 . 据澳大利亚媒体3月1日报道,澳国防军已经投资超过500万澳元(约合2400万元人民币),支持相关机构研究人工智能武器,据称最终目标是设计出有道德约束力的“杀手机器人”。 澳大利亚广播公司在报道中称,这项研究计划用时6年,新南威尔士大学堪培拉分校等机构将参与其中。报道说:“如果武装部队使用致命的人工智能武器,它将从根本上把‘杀的决定权’从士兵们手中转移到设计师和工程师那里。” 新南威尔士大学堪培拉分校当天在官网发布消息说,该校和昆士兰大学与相关机构合作,将启动一项投入超过900万澳元(约合4300万元人民币)的计划,主要研究军用的自动机器人。这项研究的焦点是“可信赖的自动系统”,该系统需要把人类的道德和法律信息嵌入其中,“带来自动化和机器人方面的世界领先技术,以实现人与机器之间可信赖的有效合作”。 当地媒体引用该项目首席研究员杰伊·加利奥的话说,这项研究将详细调查人类士兵如何在道德层面作出“是否开火”的决定,并力争让人工智能武器学会作出类似人类行为的决定,“比如可以据此设计出永远不会对救护车或医院开火的武器”。 人工智能武器研究在全球仍存争议。由于担心这类武器可能被恐怖分子等利用,百余名全球人工智能和机器人公司创始人曾于2017年发布联名公开信,呼吁联合国采取行动禁止“杀手机器人”扩散。

相关报告
  • 《澳大利亚研究团队开发出生物智能新装置,比人工智能更接近真实大脑的行为》

    • 来源专题:生物安全网络监测与评估
    • 编译者:闫亚飞
    • 发布时间:2022-11-24
    • 据cnet网10月12日消息,澳大利亚生物技术初创公司Cortical Labs和莫纳什大学等机构的研究团队开发出一种合成生物智能(SBI)的新装置“DishBrain模型”,已显示出基本的智力迹象。研究团队将80万个来自人类干细胞或小鼠的脑细胞聚集在一个培养皿中的微电极阵列上,从而可以通过电信号刺激这些细胞并读取神经活动。在向脑细胞施加的电刺激信号后,该模型学会玩一项名为Pong的电子游戏。与人工智能相比,该模型的行为更接近真实大脑。该装置可更便捷地检测大脑运作方式,促进对癫痫、痴呆等症状的理解,还可提供动物试验的替代方法,助力相关药物、疗法的开发。相关研究成果发表于《神经元》期刊。
  • 《欧洲委员会宣布全球首部具有法律约束力的《人工智能与人权、民主和法治框架公约》》

    • 来源专题:计量基标准与精密测量
    • 编译者:李晓萌
    • 发布时间:2024-09-13
    • 近日,《欧洲委员会人工智能与人权、民主和法治框架公约》(CETS第225号)在维尔纽斯举行的欧洲委员会司法部长会议上开放供签署。这是有史以来第一个具有法律约束力的国际条约,旨在确保人工智能系统的使用完全符合人权、民主和法治。 安道尔、格鲁吉亚、冰岛、挪威、摩尔多瓦共和国、圣马力诺、联合王国以及以色列、美利坚合众国和欧洲联盟签署了《框架公约》。 欧洲委员会秘书长Marija Pejcinovic Buric表示:“我们必须确保人工智能的崛起维护我们的标准,而不是破坏它们。《框架公约》旨在确保这一点。这是一个强有力的、平衡的文本,是起草《框架公约》时采取的开放和包容的方法的结果,并确保它受益于多个专家的观点。《框架条约》是一项具有潜在全球影响力的开放条约。我希望这将是许多签署国中的第一个,随后将迅速得到批准,以便该条约能够尽快生效。” 该条约提供了一个涵盖人工智能系统整个生命周期的法律框架。它促进了人工智能的进步和创新,同时管理了它可能对人权、民主和法治构成的风险。为了经得起时间的考验,它是技术中立的。 2024年5月17日,欧洲委员会部长委员会通过了《框架公约》。46个欧洲委员会成员国、欧盟和11个非成员国(阿根廷、澳大利亚、加拿大、哥斯达黎加、罗马教廷、以色列、日本、墨西哥、秘鲁、美利坚合众国和乌拉圭)就条约进行了谈判。私营部门、民间社会和学术界的代表作为观察员做出了贡献。 该条约将在包括至少三个欧洲委员会成员国在内的五个签署国批准之日起三个月期满后的下个月第一天生效。世界各国将有资格加入该条约并承诺遵守其规定。