《七国集团一致同意:给AI套上紧箍咒,推出人工智能监管法案》

  • 来源专题:人工智能
  • 编译者: 高楠
  • 发布时间:2023-06-09
  • 4月30日,为期两天的七国集团(G7)数字和技术部长会议在日本结束, G7同意推出基于风险的人工智能监管法案,这是人工智能监管领域的重要里程碑。这项法案将有望规范人工智能技术的发展和应用,确保人工智能技术的长期可持续发展。
         人工智能技术已经成为全球科技领域最为热门的话题之一,同时也是政治、法律、道德等多个领域的挑战。人工智能技术的发展已经带来了巨大的社会和经济价值,但也带来了许多风险和挑战。因此,各国政府都在积极探索如何监管人工智能技术的发展和应用,以确保人工智能技术的健康和可持续发展。
         此次G7数字和技术部长的会议达成的协议,强调了监管应该为人工智能技术“保持一个开放有利的环境”,并以所谓的民主价值观为基础。这为各国政府提供了一个新的思路和方向,即在确保人工智能技术的发展和应用的同时,也需要考虑人类的长期利益。
         在人工智能技术的应用领域,ChatGPT等生成式人工智能工具引起了各国政府的关注。为了解决版权和教育风险,欧盟提出了要求ChatGPT等人工智能工具的开发商透露他们在构建AI系统时使用的版权材料的新的立法草案。这是人工智能监管领域的又一重要举措,可能为制定全球首个全面监管AI技术的法规铺平道路。
         此外,G7计划在未来召开关于生成式人工智能的讨论,包括治理、如何保障知识产权、促进透明度、解决虚假信息以及外国势力的信息操纵等主题。这些讨论将为各国政府提供更多的思路和方向,以确保人工智能技术的健康和可持续发展。 在这个全球化的时代,人工智能技术已经成为各国政府探索科技发展的重要领域之一。各国政府应该加强合作,共同探讨人工智能技术的监管机制,确保人工智能技术的健康发展,更好地造福人类。
相关报告
  • 《数字经济与人工智能监管 》

    • 来源专题:人工智能
    • 编译者:高楠
    • 发布时间:2023-06-09
    • 在数字经济及平台监管方面,市场监管总局公布《公平竞争审查条例(征求意见稿)》,向社会公众征求意见。北京  互联网法院通过案件审判明确付费会员权益应涵盖至该自然日的全部时间。 在数据安全及个人信息保护方面,工信部就四项有关汽车的强制性国家标准公开征求意见,两项聚焦于汽车数据安全。丰田汽车因人为错误致日本215万用户的车辆数据已被公开十年,面临数据泄露风险。超23.7万名美国政府雇员数据遭泄露。 知识产权保护方面,“同人作品第一案”金庸诉江南案终审宣判,法院认定构成著作权侵权和不正当竞争。AI孙燕姿等火爆平台,引起多种担忧。 目光转向海外。当地时间5月11日,欧盟通过《人工智能法(The AI Act)》提案的谈判授权草案。欧盟委员会近期根据《数字服务法》划定总计19个超大型平台。 数字经济及平台监管 1.市场监管总局公布《公平竞争审查条例(征求意见稿)》      5月12日,市场监管总局官网公布《公平竞争审查条例(征求意见稿)》(以下简称《条例》),通过在行政法规层面作出制度性规定,进一步完善公平竞争审查制度,切实强化竞争政策基础地位,促进加快建设高效规范、公平竞争、充分开放的全国统一大市场,助力构建新发展格局,推动高质量发展。    《条例》为总则、审查内容、审查程序、监督保障、附则五章,共41条。在审查内容方面,《条例》新增对审查内容的总体要求,对市场准入和退出、商品和要素自由流动、影响生产经营成本、影响生产经营行为等四方面审查内容做了进一步完善。同时,《条例》进一步完善了例外规定的适用情形,并优化了适用条件,规定了比例原则,增强针对性和指导性。 审查程序方面,《条例》在以自我审查为主的基础上,在地方层面建立了重大政策措施公平竞争审查会审制度。《条例》规定四种情形,属于规定情形之一的政策措施,政策制定机关在作出公平竞争审查结论后,应当提请本级公平竞争审查工作协调机制办公室开展会审。 2.北京互联网法院:付费会员权益应涵盖至该自然日的全部时间.      近日,北京互联网法院审结了石某诉A公司网络服务合同纠纷一案。双方产生争议的焦点在于会员服务结束的时间应为2021年7月9日20时46分48秒还是该日24时。      法院认为,会员权益应涵盖至该自然日的全部时间。首先,涉案会员服务协议相应条款中关于服务期限届满的计算单位表述为“日”,按照一般理解,“日”应该涵盖该自然日的全部时间。其次,涉案会员服务协议属于格式条款,在存在两种解释时,应按照有利于非格式条款提供方进行理解。此外,被告在其网站的“帮助中心”中对于会员有效期的说明,虽然不是涉案会员服务协议中的内容,但是也具有对相应格式条款进行解释的效果。由于“到期时间”的提示在用户充值成为会员后方可查看,不能视为在合同成立之前已经明确告知用户的内容。综上,被告提前结束向原告提供会员服务的行为构成违约,应承担相应的违约责任。 法院判令被告A公司向原告石某的账号提供VIP会员权益一日,驳回原告石某的其他诉讼请求。目前,该案判决已经生效。 南财点评:该案的亮点主要在于:一是明确了常见的会员平台服务的法律性质和法律效力,在该案中,法院将《VIP会员服务协议》认定为格式条款;二是明确了非以“协议”形式存在的官网说明为服务协议的组成内容;三是明确会员权益届满的计算方式,认定服务协议中的“日”应当涵盖自然日的全部时间。 数据安全及个人信息保护 1.汽车信息安全再添新标:严控智能网联汽车自动驾驶数据记录      近日,工信部就四项有关汽车的强制性国家标准公开征求意见,其中《汽车整车信息安全技术要求(征求意见稿)》与《智能网联汽车自动驾驶数据记录系统(征求意见稿)》两项聚焦于汽车数据安全。    《汽车整车信息安全技术要求(征求意见稿)》提出,应建立包括车辆的开发阶段、生产阶段及后生产阶段在内的车辆全生命周期的汽车信息安全管理体系。该体系涉及企业内部信息安全管理,车辆信息安全风险识别与处理,车辆信息安全测试,监测、响应、上报针对车辆的网络攻击和威胁,以及相关主体之间信息安全依赖关系五个方面的流程。同时,提出车辆不得直接通过车辆自身的数据出境功能或接口向境外传输数据,以避免大批车辆避开管理部门的监管向境外直传数据。    《智能网联汽车自动驾驶数据记录系统(征求意见稿)》对自动驾驶的数据记录、存储、读取等做出了严格规定,要求自动驾驶数据记录系统应记录车辆及自动驾驶数据记录系统基本信息、车辆状态及动态信息、自动驾驶系统运行信息、行车环境信息和驾驶员操作及状态信息五类数据元素。同时,区分了A级和B级车辆数据元素,其中A级数据元素指的是配备自动驾驶数据记录系统的车辆应记录的数据元素;B级数据元素指的是配备自动驾驶数据记录系统的车辆在相关功能处于自动驾驶系统调用的状态时应记录的数据元素。 南财点评:尽管此次出台的征求意见稿体现了多方面的考量与进步,但《汽车整车信息安全技术要求》等文件对与已有的信息安全制度衔接机制尚未明确,如网络安全等级保护、车联网定级备案等制度,如果未来相关制度的衔接机制不明确,可能会导致企业需要就信息安全进行重复建设。 2.丰田汽车:人为错误致日本215万用户车辆数据公开十年 或存数据泄露风险 丰田汽车公司周五表示,由于云环境中的设置错误,日本215万用户的车辆数据已被公开了十年。报道称,这几乎涵盖自2012年以来注册其主要云服务平台的全部客户群。这起事件也影响了其豪华品牌雷克萨斯的客户。丰田公司发言人说,这个问题从2013年11月开始,一直持续到4月中旬,源于人为错误,导致一个云系统被设置为公共的而不是私人的。该公司说,数据可能包括车辆位置和车辆设备的识别号码等细节,但没有关于恶意使用的报告。 3.超过23.7万名美国政府雇员数据遭泄露.     据海外网消息称,当地时间12日,美国交通运输部向国会报告称,该机构超23.7万名联邦雇员的个人信息遭泄露。 此次事件影响11.4万名现任员工和12.3万名前员工,他们都从美国交通运输部领取福利津贴。美国交通运输部表示,事件并未影响任何运输系统,但目前尚不清楚是否有任何个人信息被用于犯罪目的,将展开进一步调查。 知识产权保护 1.  “同人作品案”终审宣判 法院:构成著作权侵权和不正当竞争      近日,广州知识产权法院对“同人作品案”作出终审判决。 2016年,金庸将江南告上法庭起诉《此间的少年》侵权,被誉为“同人作品”第一案。2018年,该案一审判决后原告被告均提起上诉。二审期间,金庸去世,林某怡系其遗产执行人并作为上诉人参加了诉讼。      对于人物名称、人物关系、基本性格特征等元素能否构成作品的部分内容,《此间的少年》是否侵害查良镛作品著作权,是否构成不正当竞争,各执一词,莫衷一是,成为讼争焦点。 二审法院审理认为,认定被诉侵权行为分别构成著作权侵权和不正当竞争,判令被诉侵权作品《此间的少年》作者立即停止不正当竞争行为,并登报声明消除影响,赔偿经济损失168万元及为制止侵权行为的合理开支20万元,北京联合出版公司、北京精典博维公司就其中33万元承担连带赔偿责任。 二审法院考虑到《此间的少年》与《射雕英雄传》《天龙八部》《笑傲江湖》《神雕侠侣》四部作品在人物名称、性格、关系等元素存在相同或类似,但情节并不相同,且分属不同文学作品类别,读者群有所区分。为满足读者的多元需求,衡平各方利益,促进文化事业的发展繁荣,采取充分切实的全面赔偿或者支付经济补偿等替代性措施的前提下,不判决停止侵权行为。但明确《此间的少年》如需再版,则应向《射雕英雄传》《天龙八部》《笑傲江湖》《神雕侠侣》四部作品的权利人支付经济补偿。从《此间的少年》所利用的元素在全书中的比重,酌情确定经济补偿按照其再版版税收入的30%支付。 2. AI孙燕姿爆红网络 面临多种侵权风险      一段时间以来,AI孙燕姿爆火网络。在相关平台上,你可以听到AI孙燕姿的各类单曲,比如《我记得》、《发如雪》、《下雨天》等,每天多首发歌频率,得到了广泛的喜爱。值得注意的是,这并不是孙燕姿本人演唱的歌曲,而是在So-VITS-SVC 4.0技术的帮助之下,对孙燕姿的声音数据进行训练得到模型,通过模型推理,最终实现声音替换。 南财点评:AI歌手出现的背后,或涉嫌侵犯歌手本人声音权,以及音乐词、曲作者著作权等。同时,考虑互联网上公开传播,导致任何人都可以在选定时间、地点不受限制的接触,一般会认为超出“必要范围”,相关行为一般不构成合理使用。 海外动态 1.欧洲议会通过关于《人工智能法》提案的谈判授权草案      欧洲议会的官网消息显示,当地时间5月11日,欧洲议会两个关键委员会:内部市场委员会和公民自由委员会,通过《人工智能法(The AI Act)》提案的谈判授权草案。 草案将严格禁止“对人类安全造成不可接受风险的人工智能系统”,包括有目的地操纵技术、利用人性弱点或根据行为、社会地位和个人特征等进行评价的系统等。      草案提出了新的保障措施,并禁止各种危险用例,包括禁止在公共场所进行大规模面部识别程序,以及禁止使用预测性警务系统(即AI犯罪预测系统)。草案还要求建立一个公共数据库,记录政府部门部署的“高风险”人工智能系统,公开数据,以便公民能够了解他们将何时以及如何受到这项技术的影响。 这一草案将于6月中旬提交欧洲议会全会表决,之后欧洲议会将与欧盟理事会就法律的最终形式进行谈判。欧洲议会声明显示,一旦获得批准,这将成为全世界首部有关人工智能的法规。 2.欧盟数字服务法新动态:划定首批大型平台、成立算法透明中心      近日,欧盟委员会通过了《数字服务法》(Digital Services Act,以下简称“DSA”)下的第一批确定决议,划定总计19个超大型平台,这些平台将履行欧盟规定的一系列义务。 根据《数字服务法》, 在2023 年 2 月 17 日每月活跃用户达到4500万及以上的平台将被认为是大型平台。此次划定了17个超大型在线平台(Very Large Online Platforms,以下简称“VLOP”)和2个超大型在线搜索引擎(Very Large Online Search Engines,以下简称“VLOSE”)。其中VLOP包括:阿里巴巴全球速卖通、亚马逊商店、苹果应用商店、谷歌地图、TikTok、推特、维基百科等,而VLOSE则是必应、谷歌搜索。 在接下来四个月内,这些平台需要履行DSA规定的多项义务。包括发布关于内容审核决策和风险管理的透明度报告;识别、分析和缓解平台的系统性风险等。 南财点评:DSA对超大型平台和搜索引擎提出了更加全面的监管要求,在算法治理方面的要求也更为直接和明确。DSA的落地施行、算法透明度中心以及划定超大型平台体现了欧盟打造人工智能领域规范性力量的野心。当前,人工智能革命的浪涌给算法透明带来了新的影响和挑战,未来,监管、企业侧均应发力实现算法综合治理。
  • 《英国人工智能安全研究所推出人工智能安全评估和测试平台Inspect,以加强和加快全球人工智能安全评估》

    • 编译者:李晓萌
    • 发布时间:2024-06-12
    • 近日,随着英国人工智能安全研究所的评估平台向全球人工智能社区开放,全球人工智能安全评估将得到加强,为人工智能模型的安全创新铺平道路。 在建立了世界上第一个由国家支持的人工智能安全研究所后,英国正在继续推动在人工智能安全评估方面加强全球合作,并发布了人工智能安全学院自主研发的Inspect评估平台。通过向全球社区提供Inspect,该研究所正在帮助加快全球范围内进行的人工智能安全评估工作,从而实现更好的安全测试和开发更安全的模型。这将允许在世界各地对人工智能安全评估采取一致的方法。 Inspect是一个软件库,使测试人员——从初创企业、学术界和人工智能开发人员到国际政府——能够评估单个模型的具体能力,然后根据其结果得出分数。Inspect可用于评估一系列领域的模型,包括其核心知识、推理能力和自主能力。通过开源许可证发布,这意味着Inspect现在可以免费供人工智能社区使用。 该平台从今天开始提供,这是由国家支持的机构牵头的人工智能安全测试平台首次发布供更广泛使用。 在英国一些领先的人工智能头脑的推动下,它的发布正值人工智能发展的关键时刻,因为更强大的模型预计将在2024年上市,这使得推动安全和负责任的人工智能发展比以往任何时候都更加紧迫。 科学、创新和技术国务秘书Michelle Donelan表示: 作为英国领导层在人工智能安全方面不断发出的鼓点的一部分,我已经批准人工智能安全研究所的测试平台Inspect是开源的。这使英国的独创性成为全球人工智能安全努力的核心,并巩固了我们在这一领域的世界领导者地位。 我之所以如此热衷于此,以及我之所以拥有开源Inspect,是因为如果我们控制住人工智能的风险,我们可以获得非凡的回报。从我们的NHS到我们的交通网络,安全的人工智能将切实改善生活-这正是我从政的初衷。 人工智能安全研究所主席Ian Hogarth表示: 作为人工智能安全研究所的主席,我为我们开放Inspect平台而感到骄傲。 在人工智能安全测试方面的成功合作意味着拥有一种共享、可访问的评估方法,我们希望Inspect可以成为人工智能安全研究所、研究组织和学术界的基石。 我们受到了一些领先的开源人工智能开发人员的启发,最著名的项目是GPT NeoX、OLMo或Pythia,它们都有公开的训练数据和OSI许可的训练和评估代码、模型权重以及部分训练的检查点。这是我们为回馈社会所做的努力。 我们希望看到全球人工智能社区使用Inspect不仅进行自己的模型安全测试,而且帮助适应和建立开源平台,以便我们能够全面进行高质量的评估。 在推出Inspect的同时,人工智能安全研究所、人工智能孵化器(i.AI)和10号将汇集来自一系列领域的领先人工智能人才,快速测试和开发新的开源人工智能安全工具。开发人员更容易将开源工具集成到模型中,从而更好地了解它们的工作方式以及如何使它们尽可能安全。更多细节将在适当时候公布。