《联合国教科文组织发布!《全球9大新兴的人工智能监管方法》》

  • 来源专题:数智化图书情报
  • 编译者: 程冰
  • 发布时间:2024-10-30
  • 2024年8月16日,联合国教科文组织(UNESCO)发布《全球9大新兴的人工智能监管方法》,报告探讨了全球立法机构正在审议的关于人工智能的不同监管方法。

    1、基于原则的方法

    基于原则的方法为利益相关者提供了一套基本原则,为通过合乎道德、以人为本和尊重人权的程序开发和使用人工智能系统提供指导。例如联合国教科文组织的《人工智能伦理问题建议书》和联合国经济合作与发展组织(OECD)的《人工智能原则》。基于原则的方法并不对公共机构、私人组织或个人规定具体的义务或限制,也不规定不遵守的后果。法律主体可自行判断如何根据原则调整自己的行为。然而,基于原则的方法可以与其他规定了具体的义务和权利的监管方法相结合。

    2、基于标准的方法

    基于标准的方法将国家的监管权力下放给标准制定机构,这些机构可以是公共、私营或混合机构。这种方法使专业和行业组织可直接或间接参与制定有关程序和活动的技术标准。人工智能标准中心(AI Standards Hub)已经确定了近300项人工智能相关标准,这些标准涉及众多领域,如人工智能采购、人权、以人为本的设计、人工智能的发展和应用。

    3、基于实验主义的方法

    在电信和金融等不同经济部门以及数据保护、隐私法和公共采购等横向立法中,已采用灵活制定的监管方法。监管沙盒(Regulatory Sandboxes)的主要目标是为公共和私营组织创造测试新商业模式的空间。最近,这种方法也被用于人工智能监管。如欧盟的《人工智能法案》,该法案建立了人工智能监管沙盒的创建框架。此外,英国的《支持创新的人工智能监管方法》提案还包括开发沙盒和测试平台。

    4、基于促进和扶持的方法

    基于促进和扶持的方法旨在促进和营造一种环境,鼓励私营和公共部门开发和使用负责任的、符合道德和人权的人工智能系统。例如,在这方面,联合国教科文组织制定了准备情况评估方法(RAM),旨在帮助各国了解自己在为其所有公民实施人工智能方面的准备程度,并在此过程中强调需要进行哪些体制和监管变革。

    5、基于调整现有法律的方法规则

    一些地区倾向于调整特定部门的规则(如卫生、金融、教育、司法)和横向规则(如刑法、数据保护法、劳动法),而不是发布人工智能法案。这种方法的一个潜在好处是,它允许立法者根据他们对人工智能的了解,讨论并逐步改进监管框架。

    6、基于信息透明度的方法

    要使用这一方法,需采用透明披露的基本信息。披露信息的范围可包括人工智能系统生命周期的各个方面,包括模型是如何开发的、使用了哪些数据对其进行训练、系统如何运行、系统的性能、系统对其支持的程序有哪些影响、人们如何对根据系统输入信息做出的决定进行质疑等等。

    7、基于风险的方法

    基于风险的方法旨在根据各方对监管机构实现其目标所带来的风险的评估,确定监管行动的优先次序。这种监管方法已在不同部门实施,包括环境部门、税收部门、食品安全部门和消费者保护部门。基于风险的方法侧重于预防问题和控制与使用人工智能系统相关的风险。因此,其目的是根据不同类型的人工智能系统所造成的风险程度来调整法规的义务或要求。该方法根据风险水平,确定目标的优先次序,区分风险类型,并选择干预措施。

    8、基于权利的方法

    基于权利的方法旨在确保人工智能法规保护个人的权利和自由,强调人权。这种方法假定,市场失灵不是监管的唯一理由,监管的合理性在于保护权利、促进分配公正和推进社会目标。基于权利的方法制定了强制性规则,以保证在人工智能系统的生命周期内尊重、保护和促进权利,包括人权和其他经济或社会权利。

    9、基于责任的方法

    这种方法旨在规定强制性行为标准以刑事、行政或民事责任为后盾。在这种监管方法中,法律的力量被用来禁止某些形式的行为,要求采取某些积极行动,或规定进入某个行业的条件。例如,欧盟的《人工智能法案》规定了适用于违反该法规的处罚措施。此外,欧洲议会正在审议关于人工智能造成伤害的民事责任新规定的提案。



  • 原文来源:https://mp.weixin.qq.com/s/QJiOVMYlv9SYtVAOzi5H4w
相关报告
  • 《全球出版和新闻组织联合发布人工智能 (AI) 全球综合原则》

    • 来源专题:数智化图书情报
    • 编译者:闫亚飞
    • 发布时间:2023-09-21
    • STM加入了代表全球数千名创意专业人士的26个组织,包括学术出版部门,新闻,娱乐,杂志和图书出版公司发布了全球人工智能 (AI)原则 。这些开创性的全球原则是同类产品中的首创,为人工智能(AI)系统和应用程序的开发、部署和监管提供了指导,以确保商业机会和创新能够在道德和负责任的框架内蓬勃发展。《人工智能全球原则》旨在确保出版商持续创造和传播优质内容的能力,同时促进创新和负责任地开发值得信赖的人工智能系统。 《人工智能全球原则》涉及与知识产权、透明度、问责制、质量和诚信、公平、安全、设计和可持续发展有关的关键问题,标志着一次前所未有的合作,保障了内容创作者、出版商和消费者的利益。 在《原则》中,这些组织呼吁负责任地开发和部署人工智能系统和应用程序,并指出这些新工具只能根据保护出版商知识产权、品牌、消费者关系和投资的既定原则和法律进行开发。该原则明确指出,人工智能系统“不分青红皂白地盗用我们的知识产权是不道德的、有害的,侵犯了我们受保护的权利。 除其他事项外,《全球人工智能原则》规定,人工智能系统的开发人员、运营商和部署者应:尊重知识产权,保护组织对原创内容的投资。利用高效的许可模式,通过培训值得信赖的高质量 AI 系统来促进创新。提供精细的透明度,允许发布者在其内容包含在训练数据集中时行使其权利。明确将内容归因于内容的原始发布者。认识到出版商在生成用于培训、展示和合成的高质量内容方面的宝贵作用。遵守竞争法和原则,并确保人工智能模型不被用于反竞争目的。促进可信和可靠的信息来源,并确保人工智能生成的内容准确、正确和完整。不歪曲原创作品。尊重与其互动的用户的隐私,并在人工智能系统设计、培训和使用中充分披露其个人数据的使用情况。与人类价值观保持一致,并按照全球法律运营。完整的人工智能全球原则, 可以在这里找到,更详细地阐述了上述每一点。 签署全球人工智能原则的组织包括: ?  AMI – Colombian News Media Association ?  Asociación de Entidades Periodísticas Argentinas (Adepa) ?  Association of Learned & Professional Society Publishers ?  Associa??o Nacional de Jornais (Brazilian Newspaper Association) (ANJ) ?  Czech Publishers’ Association ?  Danish Media Association ?  Digital Content Next ?  European Magazine Media Association ?  European Newspaper Publishers’ Association ?  European Publishers Council ?  FIPP ?  Grupo de Diarios América ?  Inter American Press Association ?  Korean Association of Newspapers ?  Magyar Lapkiadók Egyesülete (Hungarian Publishers’ Association) ?  NDP Nieuwsmedia ?  News/Media Alliance ?  News Media Association ?  News Media Canada ?  News Media Europe  ?  News Media Finland ?  News Publishers’ Association ?  Nihon Shinbun Kyokai (The Japan Newspaper Publishers & Editors Association) ?  Professional Publishers Association ?  STM ?  World Association of News Publishers (WAN-IFRA)
  • 《培养人工智能时代负责任和有创造力的公民——联合国教科文组织《学生人工智能能力框架》报告要点与思考》

    • 来源专题:数智化图书情报
    • 编译者:程冰
    • 发布时间:2024-10-31
    • 随着人工智能技术在教育教学中的广泛应用,将人工智能学习目标纳入学校正式课程,培养学生人工智能能力,对于学生安全、符合伦理地使用人工智能至关重要。联合国教科文组织制定的《学生人工智能能力框架》,定义了学生在人工智能时代必须掌握的知识、技能和价值观。该框架以增强人类能动性、遵循以人为本、促进可持续发展、确保包容性和促进终身学习为原则,采用二维矩阵的方法,构建了涵盖以人为本的思维方式、人工智能伦理、人工智能技术与应用以及人工智能系统设计 4 个能力维度,横跨理解、应用和创造 3 个能力等级的 12 个人工智能能力模块。 一、问题提出 人工智能不仅直观地展示出其洞见未来的诸多可能,而且推动着教育新范式的形成、新文化的构建和新型学习型人才培养模式的诞生。联合国教科文组织 2024 年发布的《学生人工智能能力框架》(以下简称《框架》),界定了学生应具备的人工智能知识、技能和价值观,帮助学生了解人工智能在教育中的作用。 二、制定原则 (一)培养对人工智能的批判性思维方法 (二)优先考虑以人为本的人工智能互动 (三)鼓励环境可持续发展的人工智能 (四)促进人工智能能力发展的包容性 (五)培养终身学习的核心人工智能能力 三、内容框架 (一)二维内容结构 (二)四个能力层面 1. 以人为本的人工智能思维方式 2. 人工智能伦理 3. 人工智能技术和应用 4. 人工智能系统设计 (三)三个能力等级 1. 理解等级 2. 应用等级 3. 创造等级 四、应用对策 (一)评估国家人工智能战略制定情况 (二)开发跨学科的核心人工智能课程 (三)设计面向未来的本地人工智能课程 (四)定制适合年龄的螺旋式课程序列 (五)构建支持人工智能课程的学习环境 (六)支持人工智能教师的终身专业发展 (七)设计基于群组的教学活动和项目 (八)制定基于能力的人工智能评估标准 五、简要思考 (一)研制以人为本的国家人工智能战略,创建支持人工智能教育的数字化环境 (二)构建新型的人工智能教师培养体系,筑牢高水平的人工智能人才队伍基座 (三)重视人工智能工具与学科深度互融,形成人机协同的智能素养教育新生态 (四)研发符合伦理原则的能力评估工具,动态评估和提升师生的人工智能能力