登录
 机构网站
  1. 首页
  2. 情报产品
  3. 快讯详情

《Science Translational Medicine | 加强对生物医学人工智能领域的监管》

  • 来源专题：战略生物资源
  • 编译者： 李康音
  • 发布时间：2023-09-26

  • 2023年9月13日，斯坦福大学生物医学伦理中心（SCBE）David Magnus教授在Science Translational Medicine上发表了题为Stronger regulation of AI in biomedicine的关于生物医学人工智能（AI）监管的评论性文章。作者们认为，随着AI技术的不断进步，监管机构需要确保其在生物医学领域的安全性和公平性。

    确保AI技术的安全性和公平性需要在多个层面采取措施，包括建立监管框架、加强数据安全和隐私保护、验证和确认系统的可靠性、强化伦理审查和科学家的道德素养以及促进公众参与和透明度等方面。只有全面、科学、公正地监管AI技术在生物医学领域的应用，才能实现其真正的价值，并最大限度地降低潜在风险。




    本文内容转载自“ ChemBioAI”微信公众号。

    原文链接: https://mp.weixin.qq.com/s/SN1y92TN-NVNGN-I9zCS5A

80浏览量
原文链接
相关报告

  • 《Science Translational Medicine | 加强对生物医学人工智能领域的监管》
    • 来源专题：战略生物资源
    • 编译者：李康音
    • 发布时间：2023-09-28
    • 2023年9月13日，斯坦福大学生物医学伦理中心（SCBE）David Magnus教授在Science Translational Medicine上发表了题为Stronger regulation of AI in biomedicine的关于生物医学人工智能（AI）监管的评论性文章。作者们认为，随着AI技术的不断进步，监管机构需要确保其在生物医学领域的安全性和公平性。 确保AI技术的安全性和公平性需要在多个层面采取措施，包括建立监管框架、加强数据安全和隐私保护、验证和确认系统的可靠性、强化伦理审查和科学家的道德素养以及促进公众参与和透明度等方面。只有全面、科学、公正地监管AI技术在生物医学领域的应用，才能实现其真正的价值，并最大限度地降低潜在风险。 本文内容转载自“ ChemBioAI”微信公众号。 原文链接: https://mp.weixin.qq.com/s/SN1y92TN-NVNGN-I9zCS5A
    66浏览量
    原文链接

  • 《数字经济与人工智能监管 》
    • 来源专题：人工智能
    • 编译者：高楠
    • 发布时间：2023-06-09
    • 在数字经济及平台监管方面，市场监管总局公布《公平竞争审查条例（征求意见稿）》，向社会公众征求意见。北京  互联网法院通过案件审判明确付费会员权益应涵盖至该自然日的全部时间。 在数据安全及个人信息保护方面，工信部就四项有关汽车的强制性国家标准公开征求意见，两项聚焦于汽车数据安全。丰田汽车因人为错误致日本215万用户的车辆数据已被公开十年，面临数据泄露风险。超23.7万名美国政府雇员数据遭泄露。 知识产权保护方面，“同人作品第一案”金庸诉江南案终审宣判，法院认定构成著作权侵权和不正当竞争。AI孙燕姿等火爆平台，引起多种担忧。 目光转向海外。当地时间5月11日，欧盟通过《人工智能法（The AI Act）》提案的谈判授权草案。欧盟委员会近期根据《数字服务法》划定总计19个超大型平台。 数字经济及平台监管 1.市场监管总局公布《公平竞争审查条例（征求意见稿）》      5月12日，市场监管总局官网公布《公平竞争审查条例（征求意见稿）》（以下简称《条例》），通过在行政法规层面作出制度性规定，进一步完善公平竞争审查制度，切实强化竞争政策基础地位，促进加快建设高效规范、公平竞争、充分开放的全国统一大市场，助力构建新发展格局，推动高质量发展。    《条例》为总则、审查内容、审查程序、监督保障、附则五章，共41条。在审查内容方面，《条例》新增对审查内容的总体要求，对市场准入和退出、商品和要素自由流动、影响生产经营成本、影响生产经营行为等四方面审查内容做了进一步完善。同时，《条例》进一步完善了例外规定的适用情形，并优化了适用条件，规定了比例原则，增强针对性和指导性。 审查程序方面，《条例》在以自我审查为主的基础上，在地方层面建立了重大政策措施公平竞争审查会审制度。《条例》规定四种情形，属于规定情形之一的政策措施，政策制定机关在作出公平竞争审查结论后，应当提请本级公平竞争审查工作协调机制办公室开展会审。 2.北京互联网法院：付费会员权益应涵盖至该自然日的全部时间.      近日，北京互联网法院审结了石某诉A公司网络服务合同纠纷一案。双方产生争议的焦点在于会员服务结束的时间应为2021年7月9日20时46分48秒还是该日24时。      法院认为，会员权益应涵盖至该自然日的全部时间。首先，涉案会员服务协议相应条款中关于服务期限届满的计算单位表述为“日”，按照一般理解，“日”应该涵盖该自然日的全部时间。其次，涉案会员服务协议属于格式条款，在存在两种解释时，应按照有利于非格式条款提供方进行理解。此外，被告在其网站的“帮助中心”中对于会员有效期的说明，虽然不是涉案会员服务协议中的内容，但是也具有对相应格式条款进行解释的效果。由于“到期时间”的提示在用户充值成为会员后方可查看，不能视为在合同成立之前已经明确告知用户的内容。综上，被告提前结束向原告提供会员服务的行为构成违约，应承担相应的违约责任。 法院判令被告A公司向原告石某的账号提供VIP会员权益一日，驳回原告石某的其他诉讼请求。目前，该案判决已经生效。 南财点评：该案的亮点主要在于：一是明确了常见的会员平台服务的法律性质和法律效力，在该案中，法院将《VIP会员服务协议》认定为格式条款；二是明确了非以“协议”形式存在的官网说明为服务协议的组成内容；三是明确会员权益届满的计算方式，认定服务协议中的“日”应当涵盖自然日的全部时间。 数据安全及个人信息保护 1.汽车信息安全再添新标：严控智能网联汽车自动驾驶数据记录      近日，工信部就四项有关汽车的强制性国家标准公开征求意见，其中《汽车整车信息安全技术要求（征求意见稿）》与《智能网联汽车自动驾驶数据记录系统（征求意见稿）》两项聚焦于汽车数据安全。    《汽车整车信息安全技术要求（征求意见稿）》提出，应建立包括车辆的开发阶段、生产阶段及后生产阶段在内的车辆全生命周期的汽车信息安全管理体系。该体系涉及企业内部信息安全管理，车辆信息安全风险识别与处理，车辆信息安全测试，监测、响应、上报针对车辆的网络攻击和威胁，以及相关主体之间信息安全依赖关系五个方面的流程。同时，提出车辆不得直接通过车辆自身的数据出境功能或接口向境外传输数据，以避免大批车辆避开管理部门的监管向境外直传数据。    《智能网联汽车自动驾驶数据记录系统（征求意见稿）》对自动驾驶的数据记录、存储、读取等做出了严格规定，要求自动驾驶数据记录系统应记录车辆及自动驾驶数据记录系统基本信息、车辆状态及动态信息、自动驾驶系统运行信息、行车环境信息和驾驶员操作及状态信息五类数据元素。同时，区分了A级和B级车辆数据元素，其中A级数据元素指的是配备自动驾驶数据记录系统的车辆应记录的数据元素；B级数据元素指的是配备自动驾驶数据记录系统的车辆在相关功能处于自动驾驶系统调用的状态时应记录的数据元素。 南财点评：尽管此次出台的征求意见稿体现了多方面的考量与进步，但《汽车整车信息安全技术要求》等文件对与已有的信息安全制度衔接机制尚未明确，如网络安全等级保护、车联网定级备案等制度，如果未来相关制度的衔接机制不明确，可能会导致企业需要就信息安全进行重复建设。 2.丰田汽车：人为错误致日本215万用户车辆数据公开十年 或存数据泄露风险 丰田汽车公司周五表示，由于云环境中的设置错误，日本215万用户的车辆数据已被公开了十年。报道称，这几乎涵盖自2012年以来注册其主要云服务平台的全部客户群。这起事件也影响了其豪华品牌雷克萨斯的客户。丰田公司发言人说，这个问题从2013年11月开始，一直持续到4月中旬，源于人为错误，导致一个云系统被设置为公共的而不是私人的。该公司说，数据可能包括车辆位置和车辆设备的识别号码等细节，但没有关于恶意使用的报告。 3.超过23.7万名美国政府雇员数据遭泄露.     据海外网消息称，当地时间12日，美国交通运输部向国会报告称，该机构超23.7万名联邦雇员的个人信息遭泄露。 此次事件影响11.4万名现任员工和12.3万名前员工，他们都从美国交通运输部领取福利津贴。美国交通运输部表示，事件并未影响任何运输系统，但目前尚不清楚是否有任何个人信息被用于犯罪目的，将展开进一步调查。 知识产权保护 1.  “同人作品案”终审宣判 法院：构成著作权侵权和不正当竞争      近日，广州知识产权法院对“同人作品案”作出终审判决。 2016年，金庸将江南告上法庭起诉《此间的少年》侵权，被誉为“同人作品”第一案。2018年，该案一审判决后原告被告均提起上诉。二审期间，金庸去世，林某怡系其遗产执行人并作为上诉人参加了诉讼。      对于人物名称、人物关系、基本性格特征等元素能否构成作品的部分内容，《此间的少年》是否侵害查良镛作品著作权，是否构成不正当竞争，各执一词，莫衷一是，成为讼争焦点。 二审法院审理认为，认定被诉侵权行为分别构成著作权侵权和不正当竞争，判令被诉侵权作品《此间的少年》作者立即停止不正当竞争行为，并登报声明消除影响，赔偿经济损失168万元及为制止侵权行为的合理开支20万元，北京联合出版公司、北京精典博维公司就其中33万元承担连带赔偿责任。 二审法院考虑到《此间的少年》与《射雕英雄传》《天龙八部》《笑傲江湖》《神雕侠侣》四部作品在人物名称、性格、关系等元素存在相同或类似，但情节并不相同，且分属不同文学作品类别，读者群有所区分。为满足读者的多元需求，衡平各方利益，促进文化事业的发展繁荣，采取充分切实的全面赔偿或者支付经济补偿等替代性措施的前提下，不判决停止侵权行为。但明确《此间的少年》如需再版，则应向《射雕英雄传》《天龙八部》《笑傲江湖》《神雕侠侣》四部作品的权利人支付经济补偿。从《此间的少年》所利用的元素在全书中的比重，酌情确定经济补偿按照其再版版税收入的30%支付。 2. AI孙燕姿爆红网络 面临多种侵权风险      一段时间以来，AI孙燕姿爆火网络。在相关平台上，你可以听到AI孙燕姿的各类单曲，比如《我记得》、《发如雪》、《下雨天》等，每天多首发歌频率，得到了广泛的喜爱。值得注意的是，这并不是孙燕姿本人演唱的歌曲，而是在So-VITS-SVC 4.0技术的帮助之下，对孙燕姿的声音数据进行训练得到模型，通过模型推理，最终实现声音替换。 南财点评：AI歌手出现的背后，或涉嫌侵犯歌手本人声音权，以及音乐词、曲作者著作权等。同时，考虑互联网上公开传播，导致任何人都可以在选定时间、地点不受限制的接触，一般会认为超出“必要范围”，相关行为一般不构成合理使用。 海外动态 1．欧洲议会通过关于《人工智能法》提案的谈判授权草案      欧洲议会的官网消息显示，当地时间5月11日，欧洲议会两个关键委员会：内部市场委员会和公民自由委员会，通过《人工智能法（The AI Act）》提案的谈判授权草案。 草案将严格禁止“对人类安全造成不可接受风险的人工智能系统”，包括有目的地操纵技术、利用人性弱点或根据行为、社会地位和个人特征等进行评价的系统等。      草案提出了新的保障措施，并禁止各种危险用例，包括禁止在公共场所进行大规模面部识别程序，以及禁止使用预测性警务系统（即AI犯罪预测系统）。草案还要求建立一个公共数据库，记录政府部门部署的“高风险”人工智能系统，公开数据，以便公民能够了解他们将何时以及如何受到这项技术的影响。 这一草案将于6月中旬提交欧洲议会全会表决，之后欧洲议会将与欧盟理事会就法律的最终形式进行谈判。欧洲议会声明显示，一旦获得批准，这将成为全世界首部有关人工智能的法规。 2．欧盟数字服务法新动态：划定首批大型平台、成立算法透明中心      近日，欧盟委员会通过了《数字服务法》（Digital Services Act，以下简称“DSA”）下的第一批确定决议，划定总计19个超大型平台，这些平台将履行欧盟规定的一系列义务。 根据《数字服务法》， 在2023 年 2 月 17 日每月活跃用户达到4500万及以上的平台将被认为是大型平台。此次划定了17个超大型在线平台(Very Large Online Platforms，以下简称“VLOP”)和2个超大型在线搜索引擎(Very Large Online Search Engines，以下简称“VLOSE”)。其中VLOP包括：阿里巴巴全球速卖通、亚马逊商店、苹果应用商店、谷歌地图、TikTok、推特、维基百科等，而VLOSE则是必应、谷歌搜索。 在接下来四个月内，这些平台需要履行DSA规定的多项义务。包括发布关于内容审核决策和风险管理的透明度报告；识别、分析和缓解平台的系统性风险等。 南财点评：DSA对超大型平台和搜索引擎提出了更加全面的监管要求，在算法治理方面的要求也更为直接和明确。DSA的落地施行、算法透明度中心以及划定超大型平台体现了欧盟打造人工智能领域规范性力量的野心。当前，人工智能革命的浪涌给算法透明带来了新的影响和挑战，未来，监管、企业侧均应发力实现算法综合治理。
    187浏览量
    原文链接