登录
 机构网站
  1. 首页
  2. 情报产品
  3. 快讯详情

《《ARL/CNI场景设想：人工智能影响下的未来》完整版发布》

  • 编译者： 程冰
  • 发布时间：2024-07-26

  • 当地时间2024年6月27日，北美研究型图书馆协会（Association of Research Libraries，ARL）与网络信息联盟（Coalition for Networked Information，CNI）发布了完整版《ARL/CNI 场景设想：人工智能影响下的未来》（Deluxe Edition of the ARL/CNI AI Scenarios: AI-Influenced Futures）。该出版物作为研究型图书馆和相关组织的重要资源，旨在对人工智能带来的变革性影响力进行战略规划。

    文件内容主要包括：

    ·设想场景集合：该场景集探讨了人工智能发挥关键作用的未来情况，为研究环境不断变化的挑战和机遇提供了关键性见解。

    文件内容，见

    http://www.chinalibs.net/ArticleInfo.aspx?id=570674&cb=qinyue。

    ·战略背景报告：ARL和CNI在2023-24年冬季和2024年春季举行了关于“人工智能对未来研究环境的影响”的焦点小组会议和访谈，该报告收集了通过以上活动获得的社区反馈信息。

    文件内容，见

    http://www.chinalibs.net/ArticleInfo.aspx?id=570677&cb=qinyue。

    ·人工智能领域行业领袖访谈报告：这些访谈以与行业领袖的前瞻性对话为特色，挑战传统智慧，激发了人们对人工智能影响下的未来的延伸思维。

    文件内容，见

    http://www.chinalibs.net/ArticleInfo.aspx?id=570679&cb=qinyue。

    该版本旨在通过为研究型机构的利益相关者提供必要的工具和知识,来预测和塑造人工智能时代研究环境的未来方向，从而为其赋权。

    ARL曾在2024年5月发布过该文件的初始版本，随同发布的文章大致罗列并解释了ARL和CNI对人工智能影响下的未来设想场景，欲了解相关信息，参见往期文章：

    http://www.chinalibs.net/ArticleInfo.aspx?id=565723&cb=qinyue。

311浏览量
原文链接
相关报告

  • 《《中国新一代人工智能发展报告2019》发布》
    • 来源专题：集成电路
    • 编译者：shenxiang
    • 发布时间：2019-05-28
    • 5月24日，《中国新一代人工智能发展报告2019》（中英文版）在浦江创新论坛上发布，《报告》从全球形势、创新环境、科研突破、经济发展、社会应用、人才支撑、区域格局等视角，对过去一年中国人工智能发展总体情况进行了回顾，力图客观反映《新一代人工智能发展规划》规划启动实施以来的落实推进情况，揭示未来发展所面临的新形势和新挑战。 《报告》由科技部新一代人工智能发展研究中心、中国科学技术发展战略研究院联合国内外十余家机构编写。中国科学技术信息研究所、教育部学校规划建设中心、中国科学院自动化所、中国社科院工业经济研究所、上海市科学学研究所等科研机构，以及清华大学、中国人民大学、北京邮电大学、华东理工大学等大学参与了报告的编写，报告得到了爱思唯尔（Elsevier）公司、北京国知预警专利咨询公司、艾瑞咨询集团、乌镇智库等机构的数据支持。 报告分析发现，2018年以来，人工智能（AI）对科技、产业和社会变革的巨大潜力得到全球更加广泛认同，各国人工智能战略布局进一步升级，人工智能正在从少数大国关注走向全球布局的新格局。2018年，有12个国家地区陆续发布或加强了其国家级人工智能战略计划，另有11个国家正在筹备制定其人工智能国家战略。 《报告》分析结果显示，美国、中国、英国在人工智能发展方面表现突出，其它国家也各有特点。美国人工智能论文引文影响力（FWCI）、PCT专利数量、企业数量和融资规模等指标都居全球第一，整体实力领跑全球。中国人工智能论文发文量居全球最高，企业数量、融资规模居全球第二，但引文影响力指标（FWCI）相对落后。英国人工智能论文发文量、总被引次数、企业数量、融资规模等指标排名第三，在全球人工智能领域也具相当实力。以色列虽然论文和企业数量不多，但论文引文影响力指标（FWCI）以及产学研合作指标突出。日、韩两国在专利申请方面也体现了一定优势。 据报告分析，2013-2018年，全球人工智能领域的论文文献产出共30.5万篇，其中，中国发表7.4万篇，美国发表5.2万篇。中美两国之间人工智能科研论文合作规模最大，是全球人工智能合作网络的中心，中美两国合作深刻影响全球人工智能发展。 《报告》指出，过去一年来中国人工智能产业化落地加快推进，正在为中国新旧动能转换和国民经济高质量发展提供有力支撑；社会服务领域应用场景丰富，为中国人工智能技术加快落地加速迭代提供了条件。同时，《报告》也指出了当前中国人工智能发展中尚存在的一些问题。比如在人工智能引文影响力等体现科研质量的指标方面还较落后，另外，但在共性技术平台、芯片处理器等企业数量较少，基础层领域发展相对薄弱。 报告认为，人工智能正在由学术界驱动转向学术界和产业界共同驱动，需要产学研协同创新。然而，从数据上看，中国人工智能校企合作论文比例与美国、以色列等国家相比还有较大差距，人工智能学术研究仍以高校为主，与企业的结合程度较弱。高校和科研机构的科研成果与企业的实际需求结合不够紧密，企业在科研项目中的参与程度较低，真正以市场为导向、产学研协同开展的人工智能科研活动仍有待加强。 中国正加快人工智能发展步伐，自2017年《新一代人工智能发展规划》发布以来，全国已有19个省（直辖市、自治区）发布了26项人工智能专项政策，并提出了各自的发展定位与目标。人工智能学科和专业建设加快推进，全国30多所高校成立了AI学院，75所高校自主设置了89个人工智能相关二级学科或交叉学科。人工智能进入高中新课标，第一本高中教材《人工智能基础（高中版）》出版。人工智能企业通过与研究型大学共建联合实验室、研究院、研究中心等方式加速人工智能高水平人才成长，多层次AI人才培养体系逐步形成。
    117浏览量
    原文链接

  • 《美国白宫发布拜登政府人工智能行动行政命令一周年以来，人工智能领域的关键成就》
    • 编译者：李晓萌
    • 发布时间：2024-12-06
    • 2023年10月30日，美国总统拜登签署发布《安全、稳定、可信的人工智能》行政命令，以确保美国在把握人工智能（AI）的前景和管理风险方面处于领先地位。该行政命令指示采取全面行动，管理人工智能的安全和安保风险，保护美国人的隐私，促进公平和民权，为消费者和工人挺身而出，促进创新和竞争，提升美国在世界各地的领导地位等。 2024年10月30日，拜登-哈里斯政府宣布，联邦机构已按计划完成了行政命令在过去一年中赋予的每一项行动——总共一百多项。以下是自拜登总统签署行政命令以来，政府在管理人工智能风险和抓住其前景方面取得的一些最重要的成就。 管理安全和安保风险： 该行政命令指示了有史以来最大胆的行动，以保护美国人免受广泛的人工智能安全和安保风险，包括与危险生物材料、软件漏洞以及外国行为者为有害目的开发人工智能有关的风险。在过去的一年里，为了保护安全和安保，各机构采取了以下措施： ·利用《国防生产法》的授权，要求最强大的人工智能系统的开发人员向美国政府报告重要信息，包括安全和安保测试的结果。这些公司已将其红队安全测试的结果、训练强大模型的计划以及他们拥有的能够进行此类训练的大型计算集群通知了DOC。上个月，DOC提出了一项规定，要求每季度报告一次这些信息。 ·引领人工智能安全测试和评估，推进人工智能安全科学。美国DOC下属的美国人工智能安全研究所（US AISI）通过最近与两家领先的人工智能开发商签署的协议，开始对主要的新人工智能模型进行部署前测试。美国能源部（DOE）开发并扩展了其人工智能试验台和评估工具，并已将其用于测试模型对核安全的风险。 ·开发了管理人工智能风险的指导和工具。美国AISI和美国DOC国家标准与技术研究所（NIST）发布了与生成人工智能和两用基础模型相关的风险管理框架，本月早些时候，AISI发布了一份关于负责任地开发和使用化学和生物科学人工智能模型的信息请求。DoD（DoD）发布了其负责任的人工智能工具包，以使人工智能项目与DoD的道德原则保持一致。 ·发布了有史以来第一份关于人工智能的国家安全备忘录（NSM）。NSM指导联邦机构采取具体措施，确保美国引领世界安全、可靠和值得信赖的人工智能发展；使各机构能够利用尖端的人工智能实现国家安全目标，包括保护人权和民主价值观；这份重要文件是人工智能安全研究所的正式章程，将其指定为整个政府高级人工智能模型测试方法的中心，并将指导DoD和情报界快速、负责任地采用人工智能。NSM还指导创建了一个推进国家安全人工智能治理和风险管理的框架，该框架为根据民主价值观实施NSM提供了敏捷的指导，包括风险管理、评估、问责和透明度机制。 ·最终确定了核酸合成筛查框架，以帮助防止人工智能被滥用于工程危险生物材料。该框架由科学技术政策办公室（OSTP）制定，鼓励核酸合成提供商识别可能构成国家安全风险的基因序列，并实施客户筛查以降低滥用风险。从2025年开始，联邦机构将要求资助接受者从遵守该框架的供应商那里获得合成核酸。国土安全部（DHS）已经制定了一个初步框架，其中包含评估未来筛查机制有效性的原则。 ·成立了一个新的人工智能数据中心基础设施工作组。该工作组提供简化的政策协调，以根据经济、国家安全和环境目标推进数据中心开发运营。 ·已确定的措施--包括标记内容和提高透明度的方法，以降低人工智能生成内容带来的风险。DOC向白宫提交了一份关于解决这些风险的科学支持标准和技术的最终报告，而NIST则发起了一项挑战，即开发检测人工智能生成内容的方法。拜登总统强调，公众有权知道内容何时是人工智能生成的，各机构正在努力使用这些工具帮助美国人知道他们从政府收到的通信是真实的。 ·成立了人工智能安全与安保委员会（AISSB），就人工智能在关键基础设施中的安全使用向国土安全部部长提供建议。AISSB今年举行了三次会议，为开发、部署和促进人工智能系统问责制的实体制定了一套建议，这些系统有助于为数百万美国人提供基本服务。AISSB的工作补充了国土安全部为关键基础设施所有者和运营商制定的有史以来第一份人工智能安全和安保指南，该指南由各机构对所有关键基础设施部门的人工智能风险评估提供了信息。为了进一步帮助保护关键基础设施，财务主管部门发布了一份关于管理金融部门使用人工智能的安全风险的报告，能源部发布了对电网潜在风险的评估，以及人工智能可能增强电网弹性和我们应对威胁的能力的方法。 ·用于保护重要政府软件系统的人工智能试点。DoD和国土安全部进行了人工智能试点，以解决分别用于国家安全目的和民间政府组织的政府网络中的漏洞。 维护工人、消费者、隐私和公民权利 人工智能正在改变美国人购买的产品和服务，影响工作和工作场所，并引入或加剧隐私、公平和公民权利的风险。拜登总统的行政命令在每个领域都代表了美国人，在过去的一年里，各机构已经： ·制定了基本原则和实践，以及指导方针，以帮助保护和增强工人的能力，因为人工智能是为工作场所构建和使用的。美国劳工部（DOL）发布了人工智能原则和最佳实践，供雇主和开发人员以中心化工人福祉和提高工作质量的方式构建和使用人工智能。美国劳工部还发布了两份指导文件，以协助联邦承包商和雇主在工作场所部署人工智能时遵守工人保护法。此外，平等就业机会委员会为求职者和工人发布了资源，以了解人工智能的使用如何违反就业歧视法。 ·随着人工智能在医疗保健领域的开发和部署，保护患者的权利和安全，同时鼓励创新。美国卫生与公众服务部（HHS）制定了一项人工智能安全计划，以跟踪涉及人工智能在医疗环境中使用的有害事件，并评估这些危害的缓解措施。HHS还制定了在药物开发过程和AI设备中使用AI或AI工具的目标、目的和高级原则。此外，美国卫生与公众服务部最终确定了一项规则，该规则为人工智能和其他预测算法制定了首创的透明度要求，这些算法是经过认证的健康信息技术的一部分。卫生和公众服务部还敲定了一项民权法规，实施了《平价医疗法案》第1557条，该法案要求受保医疗机构在使用人工智能和其他形式的决策支持工具进行护理时，采取措施识别和减轻歧视。 ·为在教育中安全、可靠和值得信赖地设计和使用人工智能发布了指导和资源。 ·发布了关于人工智能在住房领域的非歧视性使用的指导方针，其中申明现有的反歧视禁令适用于人工智能在租户筛选和住房广告中的使用，同时解释了如何遵守这些义务。此外，消费者金融保护局批准了一项规则，要求用于房屋估值的算法和人工智能是公平的、非歧视的，并且没有利益冲突。 ·在管理公共福利项目时，为负责任和公平地使用人工智能和算法系统设置护栏。农业部的指导方针为州、地方、部落和地区政府如何管理在SNAP等关键福利计划中使用人工智能和自动化系统的风险提供了一个框架，而卫生和公众服务部发布了一项计划，为其监督的福利计划提供了类似主题的指导方针。 ·确认承诺防止和解决人工智能造成的非法歧视和其他伤害。司法部民权司召集联邦机构民权办公室和高级政府人员，促进人工智能和民权协调。随着人工智能等新技术在日常生活中变得越来越普遍，五个新机构也加入了2023年的承诺，以维护美国对公平、平等和正义的承诺。 ·先进的隐私保护，保护美国人免受人工智能造成或加剧的隐私风险。特别是，美国国家科学基金会（NSF）和美国能源部建立了一个研究网络，致力于推进隐私增强技术（PETs）的开发、部署和扩展，而NSF启动了2300万美元的隐私保护数据共享实践计划，为特定用例应用、成熟和扩展PETs，并建立测试平台以加速其采用。与此同时，美国能源部启动了一项6800万美元的人工智能科学研究项目，其中包括多个美国能源部国家实验室和其他机构为推进科学人工智能的PET所做的努力。DOC还制定了评估差异隐私保障的指导方针。管理和预算办公室（OMB）发布了一份信息请求书（RFI），内容涉及联邦机构收集、处理、维护、使用、共享、传播和处置包含个人身份信息的商业信息。OMB还发布了一份RFI，说明联邦机构的隐私影响评估如何更有效地减轻隐私风险，包括那些因人工智能和其他技术和数据能力进步而进一步加剧的风险。 利用人工智能行善 在过去的一年里，各机构一直在努力抓住人工智能的巨大潜力，包括与私营部门合作，促进有价值的人工智能用例的开发和使用，以及深化美国在人工智能创新方面的领先地位。为了更好地利用人工智能，各机构已经： ·启动了国家人工智能研究资源（NAIRR）试点，并授予150多个研究团队访问计算和其他人工智能资源的权限。NAIRR试点是由美国国家科学基金会（NSF）与美国能源部和其他政府和非政府合作伙伴共同领导的国家基础设施，为支持国家的人工智能研究和教育界提供可用资源。支持的研究团队跨越34个州，处理涉及深度伪造检测、人工智能安全、下一代医疗诊断、环境保护和材料工程的项目。 ·在美国各地推广人工智能教育和培训。美国能源部正在利用其国家实验室网络，到2025年培训500名新研究人员，以满足对人工智能人才的需求，而美国国家科学基金会已投资数百万美元用于培训未来人工智能领导者和创新者的计划。这些项目包括EducateAI倡议，该倡议帮助教育工作者在K-12到本科阶段创造高质量、包容性的人工智能教育机会，支持人工智能等领域的体验式学习，并在少数族裔服务机构建立人工智能研究能力。 ·扩大了顶尖人工智能科学家、工程师和企业家来美国的能力，包括澄清O-1和H-1B签证规则，并努力简化签证处理。 ·发布了一份关于两用基础模型的潜在收益、风险和影响的报告，其中模型权重广泛可用，包括相关政策建议。DOC的报告借鉴了与专家和利益相关者的广泛联系，包括就这一主题提交的数百条公众意见。 ·宣布了一项高达1亿美元的竞赛，以支持人工智能自主实验的应用，以加速对有针对性的、与行业相关的、可持续的半导体材料和工艺的研究和交付。 ·成立了两个新的国家人工智能研究所，用于构建人工智能工具，以推动经济部门、科学和工程领域的进步。9月成立的由美国国家科学基金会领导的人工智能研究院将为天文科学开发人工智能工具，并在科学学科中得到更广泛的应用。今年早些时候，NSF还资助了10个首届区域创新引擎（NSF引擎），其中7个专注于推进人工智能。 ·宣布进一步投资数百万美元，以促进全社会负责任的人工智能开发和使用。其中包括美国能源部在VoltAIc计划中投资1300万美元，用于使用人工智能简化许可程序和加速清洁能源部署，以及美国能源部投资6800万美元，资助人工智能进行科学研究，以加速科学规划，开发节能的人工智能模型和硬件。美国能源部还推出了人工智能促进科学、安全和技术前沿（FAST）倡议路线图和信息请求，以利用人工智能进行科学发现、国家安全、能源和电网弹性以及其他国家挑战，并建立在人工智能工具、模型和伙伴关系的基础上。美国国家科学基金会与慈善机构合作，宣布向美国44个多学科、多部门团队首次投资1800多万美元，以推进包括人工智能在内的技术的负责任设计、开发和部署，确保道德、法律、社区和社会因素融入技术创造的生命周期。 ·发布了有史以来第一份分析人工智能近期支持美国清洁能源经济增长潜力的报告。美国能源部的国家实验室还发布了一份长期重大挑战报告，确定了未来十年人工智能在能源方面的机遇。 ·发布了人工智能如何帮助我们实现国家最大愿望的愿景。人工智能愿景设定了目标，为所有人创造一个更好的健康和机会的未来，减缓气候变化，提高抵御能力，建立强大的基础设施和制造业，确保政府为每个美国人服务，等等。为了促进这些目标的实现，HHS推出了CATALYST，这是一个研发项目，专注于在临床试验开始前利用人工智能更好地预测药物的安全性和有效性。作为补充，总统科学技术顾问委员会还撰写了一份报告，概述了人工智能在彻底改变和加速科学发现方面的潜力。 ·发布了解决人工智能和知识产权交叉领域重要问题的指南。为了推进创新，美国专利商标局（USPTO）发布了指导文件，涉及人工智能辅助发明的可专利性、涉及人工智能技术相关发明的专利权利要求的主题资格，以及在USPTO的诉讼中使用人工智能工具。 将人工智能和人工智能人才引入政府 人工智能可以帮助政府为美国人民提供更好的结果，尽管联邦机构使用人工智能也可能带来歧视和不安全决策等风险。此外，将人工智能和支持人工智能的专业人员带入政府对于管理这些风险和机遇以及推进其他关键的人工智能任务至关重要。在过去的一年里，各机构已经： ·发布了有史以来第一个政府范围内的政策，以加强治理，降低风险，并推进联邦使用人工智能的创新。OMB的历史性政策M-24-10要求各机构在以可能影响美国人权利或安全的方式使用人工智能时实施具体的保障措施。这些保障措施包括一系列强制性风险管理实践，以可靠地评估、测试和监测人工智能对公众的影响，并为政府如何使用人工智能提供更大的透明度。OMB的政策还指示各机构指定首席人工智能官来协调其整个机构对人工智能的使用，同时扩大和提高其人工智能员工队伍的技能，消除将人工智能用于各种目的的障碍——从应对气候变化到促进公共健康和安全。 ·发布了一项政府范围内的政策，以推动联邦机构负责任地收购人工智能。OMB本月发布的M-24-18有助于确保联邦机构在获得人工智能时，拥有管理风险、促进竞争市场和合作进行战略规划所需的信息和工具。这项工作指导联邦政府——美国经济中最大的买家——通过负责任地行使其购买力来推进人工智能创新和风险管理。 ·通过人工智能人才激增，联邦政府雇佣了250多名人工智能从业者。技术人才计划加大了人工智能人才的招聘力度，总统创新研究员带来了他们的第一批人工智能人才，国土安全部建立了迄今为止有30多名成员的人工智能团队，美国数字团队为早期职业技术人员加入联邦服务提供了途径。人工智能人才在实现关键的人工智能优先事项方面发挥了重要作用，从使用人工智能提供顶级政府服务，到保护公众使用人工智能的权利和安全。 ·成立了首席人工智能委员会，以协调跨机构的最佳实践和资源共享，以实施OMB的指导，并协调机构计划和运营中人工智能的开发和使用。 ·为联邦人工智能用例清单引入了扩展的报告说明，包括识别影响权利或安全的用例，以及该机构如何根据OMB的政策应对相关风险。 ·支持公共利益技术生态系统。在人工智能人才激增的基础上，白宫宣布向政府、学术界和民间社会提供资金，支持教育和职业道路，这将有助于确保政府能够获得多样化、以任务为导向的技术人才。 ·启动了新的招聘机构，将人工智能和人工智能人才引入机构。作为人工智能人才激增的一部分，人事管理办公室（OPM）授予了新的招聘权限，包括直接招聘权限和例外服务权限，以便各机构迅速引进顶级人工智能和人工智能赋能人才，并发布了基于技能的招聘和薪酬及休假灵活性指南，以使各机构能够雇佣和留住人工智能和AI赋能人才。此外，OPM还与合作伙伴合作举办了三场全国技术到政府职业博览会，将公众与政府中的人工智能和技术工作联系起来，向3000多名求职者展示了64家联邦、州和地方政府雇主的职位。 提升美国在海外的领导地位 拜登总统的行政命令指示开展工作，领导全球努力捕捉人工智能的潜力，降低人工智能的风险，并确保人工智能的负责任治理。为了推进这些目标，政府已经： ·发起并通过了一项具有里程碑意义的联合国大会决议。该决议获得一致通过，有100多个共同提案国（包括中华人民共和国），为世界各国制定了一个共同愿景，即促进安全可靠地使用人工智能来应对全球挑战。 ·与外国领导人就加强人工智能的国际规则和规范进行了接触，包括在2023年英国人工智能安全峰会和2024年5月的人工智能首尔峰会上，副总统哈里斯代表美国出席了会议。在英国，副总统哈里斯公布了一系列美国倡议，以促进人工智能的安全和负责任的使用，包括在DOC建立AISI。 ·宣布建立人工智能安全研究所和其他政府支持的科学办公室的全球网络，以在技术层面推进人工智能安全。该网络将于11月在旧金山举行的首届网络会议上正式启动，将加速关键信息交流，推动共同或兼容的安全评估和政策。 ·扩大全球对美国领导的《关于负责任地使用人工智能和自主性的政治宣言》的支持。56个国家现在支持该政治宣言，该宣言概述了负责任地开发、部署和使用军事人工智能能力的一套规范。DoD扩大了其国际国防人工智能伙伴关系的范围，使全球负责任的人工智能实践与《政治宣言》的规范保持一致。 ·为美国参与全球人工智能标准和与人工智能相关的关键基础设施主题制定了全面的计划。NIST和DHS将分别在90天内报告根据这些计划采取的优先行动。 ·签署了欧洲委员会《人工智能与人权、民主和法治框架公约》。这是第一个关于人工智能的多边条约，有力地肯定了现有人权义务与人工智能活动的相关性，并为政府负责任地使用人工智能奠定了国际法的坚实基础。美国的签署反映了其致力于确保人工智能技术的设计、开发、使用和管理方式促进对人权和民主价值观的尊重。 ·领导制定了《人工智能技术负责任政府实践联合声明》。自由在线联盟的41个国家承诺的联合声明呼吁各国政府负责任地开发、使用和采购人工智能，包括尊重国际义务和承诺，评估人工智能系统的影响，进行持续监测，确保充分的人力培训和评估，与公众沟通和回应，并提供有效的补救措施。 ·美国国务院和美国国际开发署发布了资源，以推进全球人工智能研究和人工智能在经济发展中的应用。《全球发展中的人工智能》手册纳入了NIST人工智能风险管理框架的原则和实践，以指导人工智能在国际环境中的负责任开发和部署，而《全球人工智能研究议程》则概述了推进人工智能安全、负责任和可持续全球发展和采用的优先事项。
    1242浏览量
    原文链接