《IEEE发布人工智能伦理标准 确保人类不受影响》

  • 来源专题:中国科学院文献情报制造与材料知识资源中心 | 领域情报网
  • 编译者: 姜山
  • 发布时间:2017-11-22
  • 人工智能(AI)已经从一个科幻小说式的探索领域发展到一个蓬勃发展的科技领域,在这个领域里,不可能的事情正在成为可能。为了确保人工智能发展的未来仍然具有伦理和社会意识,美国电气和电子工程师协会(IEEE)宣布了三项新的人工智能伦理标准。

    IEEE 自称为“世界上最大的技术进步技术专业组织”。根据最近发布的一份新闻稿,他们的人工智能标准将优先考虑人类,因为他们承诺要跟上该领域不断发展的脚步。

    这些新标准将成为一份题为《伦理一致的设计:将人类福祉与人工智能和自主系统优先考虑的愿景》的 IEEE 文档的一部分。这份文件将继续随着时代的变迁而不断变化,鼓励那些推动技术进步的人考虑这样的进步可能会如何影响伦理方面的担忧。

    Satoshi Tadokoro 是 IEEE 机器人和自动化协会的主席,他解释了为什么他们在发布会上制定了这样的标准:“机器人和自动系统将为社会带来重大创新。最近,公众越来越关注可能发生的社会问题,以及可能产生的巨大潜在利益。不幸的是,在这些讨论中,可能会出现一些来自虚构和想象的错误信息。”

    Tadokoro 继续说道:“IEEE 将基于科学和技术的公认事实来引入知识和智慧,以帮助达成公共决策,使人类的整体利益最大化。”三大人工智能标准将作为一个单独的项目引入,每个项目由专家领导。

    第一个标准是这样的:“机器化系统、智能系统和自动系统的伦理推动标准”。这个标准探讨了“推动”,在人工智能世界里,它指的是影响人类行为的微妙行动。

    第二个标准是“自动和半自动系统的故障安全设计标准”。它包含了自动技术,如果它们发生故障,可能会对人类造成危害。就目前而言,最明显的问题是自动驾驶汽车。

    第三个标准是“道德化的人工智能和自动系统的福祉衡量标准”。它阐述了进步的人工智能技术如何有益于人类的益处。

    这些标准的实施可能比我们想象的要早,因为像 OpenAI 和 DeepMind 这样的公司越来越快地推进人工智能的发展,甚至创造出能够自我学习又扩大“智能”领域的人工智能系统。专家们认为,这样的人工智能会破坏世界稳定,导致大规模的失业和战争,甚至转向创造“杀人武器”。最近,联合国的重要讨论促使人们开始认真思考,需对将人工智能技术当作武器使用进行更严格的监管。

    这三个标准项目有望能够规范人工智能的发展,而不是阻碍进步,但是我们所了解的社会也并未被我们努力创造的东西所破坏。

相关报告
  • 《IEEE发布《人工智能系统可信度评估联合规范V1.0》》

    • 来源专题:科技标准
    • 编译者:孙红军
    • 发布时间:2024-11-26
    • 11月21日,美国电气电子工程师协会(IEEE)发布了《人工智能系统可信度评估联合规范V1.0》,结合IEEE CertifAIEd?、VDE VDESPEC 90012和Positive AI框架优势,旨在统一和简化全球AI系统的评估标准。 该规范的发布标志着在人工智能治理方面迈出了重要一步,为负责任的人工智能治理铺平了道路。该规范遵循2024年欧盟《人工智能法案》的建议,旨在确保AI系统的设计和使用符合全球监管要求和框架。与传统的通过/未通过评估不同,该规范引入了涵盖六个关键原则的细致入微的评分系统,包括人力机构和监督、技术稳健性和安全性、隐私和数据治理、透明度、多样性、非歧视和公平以及社会和环境福祉。这种方法可以对AI系统进行详细、更完整的评估,涵盖广泛的指标并解决原则之间的依赖关系。 目前,IEEE CertifAIEd人工智能道德认证计划已经在全球范围内得到认可,来自28个国家的167人已成为IEEE CertifAIEd授权评估员。该规范也正在获得国家和全球层面的认可,并将成为可信赖人工智能落地的基石。 IEEE SA高级总监Ravi Subramaniam表示,该规范在制定透明的人工智能质量和测试标准时得到了广泛应用,进一步强调了IEEE CertifAIEd规范的影响,并承认IEEE的全球标准以及IEEE标准协会在欧洲合作中的持续合作伙伴关系和影响。 随着《人工智能法案》的发布,欧盟在推进值得信赖的人工智能系统方面迈出了重要一步。该规范有望成为实施可信人工智能的关键资源,为符合《人工智能法案》价值观的人工智能信任标签奠定基础。IEEE旨在通过扩展IEEE CertifAIEd计划,成为传播即将推出的标签的主导力量。IEEE鼓励所有感兴趣的各方,包括行业领导者和政策制定者,共同参与开发基于该规范的AI Trust标签认证计划,以确保人工智能系统的开发和部署负责任,符合欧洲价值观和监管标准。
  • 《全球出版和新闻组织联合发布人工智能 (AI) 全球综合原则》

    • 来源专题:数智化图书情报
    • 编译者:闫亚飞
    • 发布时间:2023-09-21
    • STM加入了代表全球数千名创意专业人士的26个组织,包括学术出版部门,新闻,娱乐,杂志和图书出版公司发布了全球人工智能 (AI)原则 。这些开创性的全球原则是同类产品中的首创,为人工智能(AI)系统和应用程序的开发、部署和监管提供了指导,以确保商业机会和创新能够在道德和负责任的框架内蓬勃发展。《人工智能全球原则》旨在确保出版商持续创造和传播优质内容的能力,同时促进创新和负责任地开发值得信赖的人工智能系统。 《人工智能全球原则》涉及与知识产权、透明度、问责制、质量和诚信、公平、安全、设计和可持续发展有关的关键问题,标志着一次前所未有的合作,保障了内容创作者、出版商和消费者的利益。 在《原则》中,这些组织呼吁负责任地开发和部署人工智能系统和应用程序,并指出这些新工具只能根据保护出版商知识产权、品牌、消费者关系和投资的既定原则和法律进行开发。该原则明确指出,人工智能系统“不分青红皂白地盗用我们的知识产权是不道德的、有害的,侵犯了我们受保护的权利。 除其他事项外,《全球人工智能原则》规定,人工智能系统的开发人员、运营商和部署者应:尊重知识产权,保护组织对原创内容的投资。利用高效的许可模式,通过培训值得信赖的高质量 AI 系统来促进创新。提供精细的透明度,允许发布者在其内容包含在训练数据集中时行使其权利。明确将内容归因于内容的原始发布者。认识到出版商在生成用于培训、展示和合成的高质量内容方面的宝贵作用。遵守竞争法和原则,并确保人工智能模型不被用于反竞争目的。促进可信和可靠的信息来源,并确保人工智能生成的内容准确、正确和完整。不歪曲原创作品。尊重与其互动的用户的隐私,并在人工智能系统设计、培训和使用中充分披露其个人数据的使用情况。与人类价值观保持一致,并按照全球法律运营。完整的人工智能全球原则, 可以在这里找到,更详细地阐述了上述每一点。 签署全球人工智能原则的组织包括: ?  AMI – Colombian News Media Association ?  Asociación de Entidades Periodísticas Argentinas (Adepa) ?  Association of Learned & Professional Society Publishers ?  Associa??o Nacional de Jornais (Brazilian Newspaper Association) (ANJ) ?  Czech Publishers’ Association ?  Danish Media Association ?  Digital Content Next ?  European Magazine Media Association ?  European Newspaper Publishers’ Association ?  European Publishers Council ?  FIPP ?  Grupo de Diarios América ?  Inter American Press Association ?  Korean Association of Newspapers ?  Magyar Lapkiadók Egyesülete (Hungarian Publishers’ Association) ?  NDP Nieuwsmedia ?  News/Media Alliance ?  News Media Association ?  News Media Canada ?  News Media Europe  ?  News Media Finland ?  News Publishers’ Association ?  Nihon Shinbun Kyokai (The Japan Newspaper Publishers & Editors Association) ?  Professional Publishers Association ?  STM ?  World Association of News Publishers (WAN-IFRA)