《兰德公司发布报告《人工智能军事应用的新风险和机遇》》

  • 来源专题:数智化图书情报
  • 编译者: 程冰
  • 发布时间:2024-10-30
  • 2024年9月,兰德公司发布报告《人工智能军事应用的新风险和机遇》。报告认为,若各国希望在民用和商业领域推广人工智能并且负责任地发展军用人工智能就需要对人工智能在军事领域的新风险和机遇有清晰而细致的理解,同时也需要明白如何与其他国家合作以减轻或利用这些风险和机遇。

    一、建立军事人工智能战略影响框架

    (一)目前对军事人工智能影响的认识存在的问题

    1.人工智能技术和应用的多样性使有关其影响的讨论复杂化。

    2.人工智能是复杂的社会技术系统的一部分,其发展轨迹和速度以及在现实世界中的应用都存在很大的不确定性

    3.在军事背景下讨论人工智能问题时,往往狭隘地关注致命性自主武器系统或生存威胁的伦理和战术影响。

      (二)军事人工智能战略影响的初步概念框架

    1.本报告提出的初步框架参考了一系列设计标准、假设和注意事项。

    2.该框架的最高层次涉及与人工智能有关的不同类型的风险和机遇,军事人工智能的影响是其中的一个子集。

    3.该框架的后续层次涉及全球和行为者层面的影响,以及竞争和冲突的整个连续体的相互影响。

    二、人工智能对国家层面的影响

    (一)了解战略优势

    (二)人工智能的影响:潜在优势

    (三)人工智能的影响:优势倾向

    三、人工智能对国际层面的影响

    (一)人工智能的影响:军事人工智能的竞争将改变力量平衡

    (二)人工智能的影响:加剧了基于规则的国际体系在适应当前机构、法律和规范以跟上新技术方面的压力

    (三)人工智能的影响:战略竞争动态

    四、各国可采取的优先事项

    (一)确定战略风险和机遇的优先次序

    1.本文最重要的发现之一是人工智能影响的深度不确定性。

    2.确定需要采取紧急行动的优先问题。

    3.这些问题是风险还是机遇将取决于各国如何快速有效地适应日益激烈的人工智能竞争。

    五、规避人工智能相关风险的可行措施

    (一)促进人工智能相关利益的机制

    (二)限制对手采用人工智能并从中获益的机制

    (三)形成全球人工智能军事治理的机制


  • 原文来源:https://mp.weixin.qq.com/s/tyIJUVA-VDcJ3HWE2R-hqA
相关报告
  • 《兰德公司发布《人工智能的军事应用》报告》

    • 来源专题:科技政策与战略动态监测服务
    • 编译者:金瑛
    • 发布时间:2020-09-10
    • 人工智能(AI)包含了广泛的技术,其中许多技术都有广阔的军事应用前景,美国、中国和俄罗斯都在开发AI的军事应用。这也引发了人们对于AI军事应用可能产生的法律与伦理问题的担忧。2020年4月28日,兰德公司发布《人工智能的军事应用:不确定世界的伦理问题》报告,广泛地调查了各种AI技术及其在军事上的应用,评估了AI在战争与和平中的伦理影响,并提出了建议。
  • 《美国兰德公司发布《人脸识别技术》报告》

    • 来源专题:中国科学院文献情报生命健康领域集成服务门户
    • 编译者:陈大明
    • 发布时间:2020-05-22
    • 5月14日,美国兰德公司发布《人脸识别技术》报告。报告发现,每个人脸识别系统都需要在准确性和隐私性之间进行平衡,且目前没有统一的规则来控制人脸识别技术的使用。报告建议,对于在公共场所收集诸如面部特征之类的可识别个人信息的任何技术,应使用匿名化或其他方式来减少可用数据量,并建立严格的用户协议以限制未经授权的访问;仔细考虑训练或目标数据集的组成和大小,以提高面部识别算法准确率;设计可避免偏见的黑名单,并确定在与安全相关的应用程序中产生可接受的假阳性面部匹配率的阈值。