《国际电信联盟关注人工智能水印技术及标准化》

  • 来源专题:科技标准
  • 编译者: 孙红军
  • 发布时间:2024-07-11
  • 5月27日,国际电信联盟(ITU)官网刊登了Shutterstock 人工智能和数据科学高级总监亚历山德拉·萨拉(Alessandra Sala)博士关于人工智能水印技术及其标准化的论述[1]。 亚历山德拉·萨拉博士表示,AI水印技术是一种将特定信号或标记隐藏在AI生成的文本或图像中的技术。这种独特的被嵌入的“水印”人类肉眼看不见,但可以通过专门的算法检测到。AI水印技术为数字文件的认证和验证提供了可靠的方法,有效遏制了AI生成内容的深度伪造和篡改。萨拉博士同时强调,目前AI水印技术还没有标准化,且缺乏通用的检测工具。这带来了一系列的问题,诸如:谁应该提供AI检测工具?这些工具是应该捕捉所有AI生成的内容,还是只捕捉某个模型的输出?如何保证由一种技术生成的水印对于基于不同技术的系统来说是可读或可见的?这些问题如果不解决,将对AI系统的信任产生严重影响。 ITU强调了内容来源和真实性联盟(C2PA)[2]发起的人工智能真实性合作倡议,该倡议旨在建立验证视听内容真实性的标准。ITU认为,区块链技术是不可变的,是记录出处的理想选择。一旦数字资产被记录在区块链上,其所有权历史将被永久公开记录。建议使用区块链技术为AI水印技术提供额外的安全性和透明度。此外,ITU还在5月底举办研讨会深入探讨多媒体真实性问题,重点关注国际标准、水印技术的使用、增强的安全协议和网络安全意识。 [1] ITU. AI watermarking: A watershed for multimedia authenticity[EB/OL]. 2024-05-27. https://www.itu.int/hub/2024/05/ai-watermarking-a-watershed-for-multimedia-authenticity/ [2] C2PA联盟全称为Coalition for Content Provenance and Authenticity,由微软、索尼、英特尔和Adobe等领先公司于2021年创建。 欢迎访问 中国科学院标准化信息服务平台:http://standardinfo.whlib.ac.cn 微信公众号:标准化战略研究 CAS-Standards
  • 原文来源:http://mp.weixin.qq.com/s?__biz=MzI4ODczODU1Mg==&mid=2247489517&idx=1&sn=ba9a42f2d72ddabd0edee54282c44b6e&chksm=ec388a7adb4f036ca1d97e9f2ac61ea9dc73731d11b7f0dd10f6d565a05bad9cabab252c641c#rd
相关报告
  • 《人工智能助力生物识别精准化》

    • 来源专题:光电情报网信息监测服务平台
    • 编译者:husisi
    • 发布时间:2020-05-26
    • “你是谁?”在当今社会,无处不在的身份识别场景在无声发问。进小区门,要问你是业主本人吗?进家门,要扭动匹配的钥匙或按下指纹;开电脑工作,弹出密码输入弹窗。每个人都是独立的个体,我们能否使用唯一特性与外界建立联系?唯一意味着安全,也意味着核实更方便准确,就像我们的身份证,上面有唯一的数字编码。 与此同时,数字化时代,我们与机器的互动,从敲键盘一步跨向手指点击滑动、开口对话、抬起头、眨眨眼,远隔千里的人们能便捷地沟通交流、能跨省跨国网上办事,但客观上无法实现“亲眼所见”,也给建立“信任”关系带来新的挑战。 人工智能技术的发展,针对数字社会人与人之间、人与机器之间如何建立“信任”关系,提供了一个很好的技术解决手段,即生物识别技术。你用什么方式证明自己?怎样才能定义这世界独一无二的你?设备的进化中,谁在保证个人使用的安全性?无接触生活的背后都是技术在化解复杂,生物识别技术的研究,正是希望解决这些问题。 1.生物识别是数字社会的重要基础 无论处于哪个社会经济发展阶段,“人”始终是最重要的核心要素。人类作为群居动物,在地球上有人类的时刻,“信任”的需求就应运而生,通过视觉“亲眼所见”、听觉“亲耳所闻”等辨别同伴建立信任关系,这种最原始的通过“亲眼所见”等手段建立“信任”的方式也将伴随人类一直延续下去。 数字化世界,需要迭代新的信任交互,生物识别技术是技术发展演进到一定阶段的必然产物,也是一种新型数字身份的基础设施。它基于个体生物特征进行自动识别的一种技术,结合计算机与光学、声学、生物传感器和生物统计学原理等,依靠人体的生理特征或者行为特征来进行身份验证的识别,是当前人工智能技术和信息安全技术在工业界落地应用最显著的代表性成果之一。 所谓生物特征包括人脸、指纹、声纹、虹膜、指静脉、体温等,行为特征则记录签名笔迹、行走步态、坐姿等。这些生物特征各有特点,比如每个人的静脉血管都不是一样的,血管也足够多,因此它的信息唯一、丰富,几乎不能被复制;而一个人随着年龄增长和一些突发情况,行为特征比如走路姿态可能会发生变化,可以理解为特征信息稳定性不那么强。 唯一的、稳定的生物特征就具备理论上的安全基础,我们将它们进一步结合形成有效技术手段,同时采用多种方式来确保它准确、高效就像使用身份证确认“你就是你”。 作为一种身份认证方式,目前生物识别技术已经在金融、教育、司法、医疗、社会治理等行业都有了广泛应用,它需要满足不同场景、行业要求和不断变化演进的业务需求。它将迅速成为数字经济社会的重要信息基础设施之一。 2.生物识别开始出现大规模技术创新 从技术上来说,传统生物识别技术在鲁棒性、准确性以及抗攻击能力等方面,近年来都有大幅提升。比如突破2D人脸存在景深数据丢失的局限性,3D人脸识别技术因其具有更强的描述能力开始在高准确性应用中逐渐增多;在3D识别的基础上人脸活体检测的新技术也进一步被采用;防止人脸数据库被盗库的识别技术也已被提出;指纹识别则开始引入基于手指皮肤颜色和的脉搏心率信号的活体检验,用于防止被仿生导电材料做成的假手指攻击;声纹识别可结合使用电磁场检测,来判断声源为真人还是扬声器等。 另一方面,考虑到应用场景的不同需求:持续认证、移动设备上识别、个人隐私保护等,新型生物识别技术也是应需而生。比如,浙江大学网络空间安全团队针对持续认证,开发了“心脏密码”系统通过不间断用生物雷达的无线信号来感知心脏运动,实现了易用性高的非接触式可持续认证;针对移动设备上的生物识别,利用设备内置摄像头捕捉到的眼球运动,智能手环上测量到的心电图,以及虚拟现实头罩测量到的眼电图和脑电波都相应的实现了可靠的生物识别;针对生物识别中的个人隐私保护,采用无线信号成像来代替摄像头,既避免了摄像头受视角和阻挡等条件的限制,更消除了直接获取图像的隐私泄露风险。 另外,正如每种生物特征各有特点,在充分考虑各种攻击场景下,任何单一生物识别技术往往都呈现出特定的优势和局限。每个模态都具有不同的数据安全程度、采集适应场景、隐私敏感度等,因此解决方案并不能通过单一技术完全达成。 多模态多因子生物识别技术融合因此非常重要。比如夜晚光照不理想,人像识别率低,结合红外成像和热成像的跨模态互补就能增强人像识别的准确度。像是蚂蚁金服多模态融合人脸识别技术实现用户的精准识别,满足金融级误识率(低至千万分之一误识率)下,大大超出了单模态人脸识别技术能达到的性能瓶颈,并提升了人脸识别的安全性。同时,还充分利用移动设备的芯片级安全能力,经过与产业链多方的合作,构造了基于TEE(可信执行环境)的全链路安全协议,为生物支付提供了强有力的安全保障。此外,通过风险感知模块检测黑产攻击,风控引擎自动更新风险模型,风险拦截效率大幅提升,充分保证了交易安全。 未来生物识别技术的趋势便是如此,将会从传统的只提取人体生理特征,向人、物理世界、数字世界融合的认证方向发展。生物识别技术将在和环境特征、数字凭证相结合,满足时空关联、多模态多因子融合的基础上完全实现可信认证。 3.“生物识别”“多模态融合”作为主流研究方向形成标准化的应用共识 从实验室走向产业商用,从模型走向安全产品,靠的是持续生物识别技术迭代和多重技术算法的保障,尤其引起我们关注的是“安全和隐私保护”。 基于这一点,去年,浙江大学和蚂蚁金服联合成立了数据安全与隐私保护实验室,汇集了双方创新力量和优势资源,产学研联合推进前沿科技研究,提升国内生物识别行业安全技术水平。 目前针对人脸数据脱敏、不可逆、可更新、加密等做了大量研究,给生物识别信息保护提供可行的安全技术解决方案。部分安全技术已经转化应用到蚂蚁金服人脸识别技术上,支撑大量金融级安全应用。 在生物识别技术突破最多的是人脸识别,即在图像特征抽取和人脸比对环节中取得了很大进展。但从实验室之外的实际场景应用模拟发现,其影响因素很多。从全链路的角度来看,活体检测、人脸交互、关键点定位、人脸跟踪等在真实的场景下,特别是不同的手机、环境、用户背景等条件下,想做到非常好并且稳定的用户体验是很难的。我们对此进行了很多特殊的优化,如使算法在不同的手机上达到比较一致的运算速度、响应时间,通过文案设计提高用户对刷脸的感知和理解,适应用户背景(如光线、角度等),分析基于其他传感器数据的反馈等。同时企业根据自身业务的不断发展,向学术界持续反馈新的需求,也反过来促进了联合实验室在新技术前沿开拓的方向感和紧迫感,产学研联动形成良性闭环发展。 基于我们共同进行的大量研究、实践积累,近期企业已在IEEE成立“移动设备生物特征识别”标准工作组,并立项“生物特征识别多模态融合”IEEE国际标准。这也是中国企业首次在国际标准中,提出移动设备多模态融合技术的实现框架、功能要求、性能要求、安全要求等。这意味着,“生物识别”、“多模态融合”作为主流研究方向将形成标准化的应用共识。这也是一项技术脱离实验室踏上商用之路的重要一步,有利于推动行业平均技术发展水平。而国际标准是国际规则和共识重要通用载体,对整个行业良性发展至关重要,也是具备技术实力的中国企业必须具备发言权之处。毫无疑问,高校和企业在生物识别这类国际前沿技术及标准上的探索,是中国科技布局眼光、研究能力、科学严谨性的综合体现。它同样预示着,中国企业在人工智能技术领域的国际竞争进入新阶段——从产品出海到技术走出去,如今又向输出全球标准迈进。
  • 《英国国家物理实验室(NPL)等多个国际组织和机构共同参与发布《人工智能环境可持续性的标准化方法》路线图,旨在应对人工智能环境可持续性挑战》

    • 来源专题:计量基标准与精密测量
    • 编译者:李晓萌
    • 发布时间:2025-03-13
    • 我们生活在一个数字化程度日益加深的世界中,人工智能(AI)的增长和使用呈指数级上升——随着这种增长,其环境影响引发了关注。如何计算、报告、减少并预防这种影响,亟需一种标准化的方法。 为应对这一挑战,近日,多个国际组织和机构共同参与发布《人工智能环境可持续性的标准化方法》路线图,旨在实现资源的高效利用,减少混乱,促进对人工智能环境影响测量的一致性,并推动相关最佳实践的广泛应用。参与者希望制定不冲突的标准来衡量人工智能的环境影响,并鼓励国际标准化机构之间的合作,尽可能避免标准的重复和重叠。英国国家物理实验室(NPL)也参与其中。 该路线图旨在: ·在国际层面协调标准化工作,避免不同倡议之间的重复和矛盾; ·制定共同的指标,以便基于生命周期评估和现有环境管理标准等稳健方法,对人工智能的环境影响进行透明且协调一致的评估; ·通过整合基础设施、模型和算法优化策略,促进生态责任人工智能设计中最佳实践的采用; ·通过在监管机构、科技公司和研究组织之间构建交流机制,鼓励公共和私人行为者之间的合作。 该路线图预计将被广泛的利益相关者使用,包括人工智能开发者(例如构建像ChatGPT这样的新型人工智能解决方案的人)、人工智能用户(将这些解决方案应用于其工作和产品的人)以及人工智能消费者/客户(使用经过人工智能改进的产品的人)。 目前在人工智能可持续性方面存在一些空白,未来标准化工作的第一步是识别并建立以下内容: ·定义透明且共同的指标和报告框架; ·建立指标评估方法; ·人工智能环境影响的缓解最佳实践; · 管理系统。 关于标准化的关键考虑因素包括: ·必须评估人工智能系统的整个生命周期; ·人工智能系统的数据生命周期; ·间接影响; ·在人工智能系统整个生命周期中使用的所有设备。 该项工作源于2024年10月10日在联合国教科文组织总部发起的一项全球倡议,该倡议汇聚了来自国际标准化组织、国际电信联盟和电气与电子工程师协会的专家,并与经济合作与发展组织和联合国教科文组织合作。由可持续发展委员会的生态实验室领导,该倡议促成了四次工作会议的组织,以确保标准化机构之间的更好协调,并优化用于减少人工智能环境影响的资源。 NPL的首席科学家Valerie Livina是该路线图的贡献者之一,她表示:“随着新型人工智能解决方案对能源供应的需求不断增加,提高对其环境影响的认识至关重要。目前,企业对人工智能专用集群的硬件需求规模已达20万块GPU单元,并且还在不断增长,而最新型号的GPU每块可能需要高达1.2千瓦的功率。这使得专注于人工智能的硬件如此耗电,以至于一些大型企业已经开始使用自己的发电站。这条路线图是为了欧盟的‘节俭人工智能’倡议而开发的,并且与NPL领导的CEN/CENELEC关于环境可持续人工智能的技术报告非常一致。”