《IEEE发布人工智能伦理标准 确保人类不受影响》

  • 来源专题:中国科学院文献情报制造与材料知识资源中心 | 领域情报网
  • 编译者: 姜山
  • 发布时间:2017-11-22
  • 人工智能(AI)已经从一个科幻小说式的探索领域发展到一个蓬勃发展的科技领域,在这个领域里,不可能的事情正在成为可能。为了确保人工智能发展的未来仍然具有伦理和社会意识,美国电气和电子工程师协会(IEEE)宣布了三项新的人工智能伦理标准。

    IEEE 自称为“世界上最大的技术进步技术专业组织”。根据最近发布的一份新闻稿,他们的人工智能标准将优先考虑人类,因为他们承诺要跟上该领域不断发展的脚步。

    这些新标准将成为一份题为《伦理一致的设计:将人类福祉与人工智能和自主系统优先考虑的愿景》的 IEEE 文档的一部分。这份文件将继续随着时代的变迁而不断变化,鼓励那些推动技术进步的人考虑这样的进步可能会如何影响伦理方面的担忧。

    Satoshi Tadokoro 是 IEEE 机器人和自动化协会的主席,他解释了为什么他们在发布会上制定了这样的标准:“机器人和自动系统将为社会带来重大创新。最近,公众越来越关注可能发生的社会问题,以及可能产生的巨大潜在利益。不幸的是,在这些讨论中,可能会出现一些来自虚构和想象的错误信息。”

    Tadokoro 继续说道:“IEEE 将基于科学和技术的公认事实来引入知识和智慧,以帮助达成公共决策,使人类的整体利益最大化。”三大人工智能标准将作为一个单独的项目引入,每个项目由专家领导。

    第一个标准是这样的:“机器化系统、智能系统和自动系统的伦理推动标准”。这个标准探讨了“推动”,在人工智能世界里,它指的是影响人类行为的微妙行动。

    第二个标准是“自动和半自动系统的故障安全设计标准”。它包含了自动技术,如果它们发生故障,可能会对人类造成危害。就目前而言,最明显的问题是自动驾驶汽车。

    第三个标准是“道德化的人工智能和自动系统的福祉衡量标准”。它阐述了进步的人工智能技术如何有益于人类的益处。

    这些标准的实施可能比我们想象的要早,因为像 OpenAI 和 DeepMind 这样的公司越来越快地推进人工智能的发展,甚至创造出能够自我学习又扩大“智能”领域的人工智能系统。专家们认为,这样的人工智能会破坏世界稳定,导致大规模的失业和战争,甚至转向创造“杀人武器”。最近,联合国的重要讨论促使人们开始认真思考,需对将人工智能技术当作武器使用进行更严格的监管。

    这三个标准项目有望能够规范人工智能的发展,而不是阻碍进步,但是我们所了解的社会也并未被我们努力创造的东西所破坏。

相关报告
  • 《浙江省首次发布人工智能产业发展报告》

    • 来源专题:光电情报网信息监测服务平台
    • 编译者:husisi
    • 发布时间:2020-05-12
    • 近日,浙江省首次发布人工智能产业的年度发展报告。《报告》显示,浙江省立足数字经济基础优势,人工智能产业发展十分迅速,产业区域发展竞争力位居全国第一梯队。 5月8日上午,浙江省发展规划研究院联合浙江网信办、浙江省发展改革委、浙江省经信厅、浙江省科技厅共同发布《2020年浙江省人工智能产业发展报告》(以下简称《报告》),这是浙江省首次发布人工智能产业的年度发展报告。 《报告》显示,浙江省人工智能产业发展态势良好。杭州列入国家新一代人工智能发展试验区,德清列入全国首个县域国家新一代人工智能创新发展试验区,阿里、海康列入国家人工国家人工智能开放创新平台......浙江立足数字经济优势,已形成了从核心技术研发、智能终端制造到行业智能化应用的完整产业链,区域发展竞争力位居国内第一梯队。 人工智能产业规模跃升千亿级规模 记者从发布会上了解到,截至2019年,浙江省人工智能产业企业已达482家,实现总营业收入1987.37亿元,形成千亿级产业规模。《报告》显示,浙江省人工智能产业区域发展竞争力评价指数排名全国第四位,居北京市、广东省、上海市之后,位于全国第一梯队,尤其是智慧安防产业,占领全球30%以上的市场。目前,浙江已形成以杭州为核心的的人工智能产业区域集聚。数据显示,2019年杭州市人工智能企业数量、营业收入分别占据全省的45.0%、58.3%,位居全省第一,嘉兴、宁波分别位居第二、第三,其他地区也呈现蓬勃发展态势。此外,浙江加快构建以浙江大学、之江实验室、浙江清华长三角研究院等科研院校和领军型企业为核心的人工智能创新生态。浙江大学建设了国内首个人工智能交*学科,启动了脑科学与人工智能会聚研究计划(简称“双脑计划”);阿里巴巴城市大脑、海康威视入选国家新一代人工智能开放创新平台。同时,《报告》公布浙江省第一批人工智能领军及行业应用标杆企业,阿里巴巴、海康威视、网易、新华三等9家入选领军企业,虹软科技、安恒信息、商汤科技等45家入选应用标杆企业。 为人工智能发展提供更多“浙江经验” 发布会上,围绕人工智能产生的法律、道德伦理、社会问题尤为受到关注。如何创新探索应对措施,化解大众忧虑,在人工智能产业发展中形成一套可复制、可推广的“浙江经验”,浙江网信办相关负责人对此专程解答。发言人指出,对于浙江省来说,首先要面向未来、抢占先机。习近平总书记指出,“人工智能是引领这一轮科技革命和产业变革的战略技术,具有溢出带动性很强的‘头雁’效应”,我们要深刻领会总书记对新趋势的判断,积极抢抓人工智能发展机遇,坚定不移地开展人工智能技术研发和应用推广。其次是要正视困难、面对挑战。面对人工智能发展对社会各行各业的影响,针对快速发展带来的不确定性和潜在风险,要正视人工智能的人文社会属性,善于发现和总结人工智能发展的规律和特点,积极应对人工智能在法律、道德伦理、社会心理等方面带来的新挑战。最后要迎难而上、勇于创新。当前人工智能发展所面临的社会问题都尚未被妥善解决,也没有现成的范式可以借鉴学习。浙江要自觉践行“三个地”的政治责任,肩负起建设“重要窗口”的使命担当,以之江实验室为主的科研机构及高等院校要主动担当,加快人工智能在社会治理各领域的实验研究,积累浙江经验,打造浙江样本,助力形成有中国特色的人工智能发展治理模式。 2020年浙江省人工智能产业这样发展 随着计算能力、大数据和算法模型的突破以及数字新基建的推进,2020年浙江省人工智能产业发展又将呈现怎样的趋势?《报告》作出五方面预测。趋势一:技术攻关取得阶段性进展。浙江大学、之江实验室、阿里达摩院、海康威视等优先开展类脑信息处理、自主无人系统、虚拟现实等前沿关键技术研究,重点提升智能设备数据处理、样本学习和人机交互能力。趋势二:核心产业规模快速增长。阿里云OS等通用性人工智能操作系统和控制软件将实现应用,智能传感器、智能安防、智能无人系统、智能家居等一批智能终端产品将上市。预计2020年人工智能核心产业规模比上年增速超过20%,总规模超过800亿元。趋势三:人工智能行业应用将加速。物联网+AI技术将使智慧远程医疗、精准医疗成为可能;AI技术赋予“云办公”、家庭场景各种智能设备将具有感知能力。预计2020年人工智能行业应用规模将超过1500亿元。趋势四:人工智能助力社会治理现代化进程。在这次抗疫期间,浙江省采用“一图一码一指数”精密智控取得积极成效。人工智能将驱动社会数字化转型,一个以AI技术为核心的智慧社会将加快到来。趋势五:数字新型基础设施建设提升人工智能发展。2020年浙江省将加快推进新型基础设施建设工程,全面推进5G网络建设,布局新型大数据中心,开发天基卫星基准服务。
  • 《IEEE发布《人工智能系统可信度评估联合规范V1.0》》

    • 来源专题:科技标准
    • 编译者:孙红军
    • 发布时间:2024-11-26
    • 11月21日,美国电气电子工程师协会(IEEE)发布了《人工智能系统可信度评估联合规范V1.0》,结合IEEE CertifAIEd?、VDE VDESPEC 90012和Positive AI框架优势,旨在统一和简化全球AI系统的评估标准。 该规范的发布标志着在人工智能治理方面迈出了重要一步,为负责任的人工智能治理铺平了道路。该规范遵循2024年欧盟《人工智能法案》的建议,旨在确保AI系统的设计和使用符合全球监管要求和框架。与传统的通过/未通过评估不同,该规范引入了涵盖六个关键原则的细致入微的评分系统,包括人力机构和监督、技术稳健性和安全性、隐私和数据治理、透明度、多样性、非歧视和公平以及社会和环境福祉。这种方法可以对AI系统进行详细、更完整的评估,涵盖广泛的指标并解决原则之间的依赖关系。 目前,IEEE CertifAIEd人工智能道德认证计划已经在全球范围内得到认可,来自28个国家的167人已成为IEEE CertifAIEd授权评估员。该规范也正在获得国家和全球层面的认可,并将成为可信赖人工智能落地的基石。 IEEE SA高级总监Ravi Subramaniam表示,该规范在制定透明的人工智能质量和测试标准时得到了广泛应用,进一步强调了IEEE CertifAIEd规范的影响,并承认IEEE的全球标准以及IEEE标准协会在欧洲合作中的持续合作伙伴关系和影响。 随着《人工智能法案》的发布,欧盟在推进值得信赖的人工智能系统方面迈出了重要一步。该规范有望成为实施可信人工智能的关键资源,为符合《人工智能法案》价值观的人工智能信任标签奠定基础。IEEE旨在通过扩展IEEE CertifAIEd计划,成为传播即将推出的标签的主导力量。IEEE鼓励所有感兴趣的各方,包括行业领导者和政策制定者,共同参与开发基于该规范的AI Trust标签认证计划,以确保人工智能系统的开发和部署负责任,符合欧洲价值观和监管标准。