《人工智能促进健康的伦理和治理:大型多模式模型指南》

  • 来源专题:新发突发传染病
  • 发布时间:2024-01-28
  • Artificial Intelligence (AI) refers to the capability of algorithms integrated into systems and tools to learn from data so that they can perform automated tasks without explicit programming of every step by a human. Generative AI is a category of AI techniques in which algorithms are trained on data sets that can be used to generate new content, such as text, images or video. This guidance addresses one type of generative AI, large multi-modal models (LMMs), which can accept one or more type of data input and generate diverse outputs that are not limited to the type of data fed into the algorithm. It has been predicted that LMMs will have wide use and application in health care, scientific research, public health and drug development. LMMs are also known as “general-purpose foundation models”, although it is not yet proven whether LMMs can accomplish a wide range of tasks and purposes.
相关报告
  • 《2024 年人工智能指数报告》

    • 来源专题:战略生物资源
    • 发布时间:2024-04-16
    • 2024年4月15日,由李飞飞联合领导的斯坦福大学以人为本人工智能研究所(Stanford HAI)发布了《2024 年人工智能指数报告》(Artificial Intelligence Index Report 2024)。这份长达 300 多页的报告是 Stanford HAI 发布的第 7 份 AI Index 研究,追踪了 2023 年全球人工智能的发展趋势。 Stanford HAI 官方介绍道,“这是我们迄今为止最全面的报告,而且是在人工智能对社会的影响从未如此明显的重要时刻发布的。” Stanford HAI 研究项目主任 Vanessa Parli 表示,“我认为最令人兴奋的人工智能研究优势是将这些大型语言模型与机器人或智能体(agent)相结合,这标志着机器人在现实世界中更有效地工作迈出了重要一步。” 新报告揭示了 2023 年人工智能行业的 10 大主要趋势: 1.人工智能在某些任务上胜过人类,但并非在所有任务上。  人工智能已在多项基准测试中超越人类,包括在图像分类、视觉推理和英语理解方面。然而,它在竞赛级数学、视觉常识推理和规划等更复杂的任务上依然落后于人类。 2.产业界继续主导人工智能前沿研究。 2023 年,产业界产生了 51 个著名的机器学习模型,而学术界只贡献了 15 个。2023 年,产学合作还产生了 21 个著名模型,创下新高。此外,108 个新发布的基础模型来自工业界,28 个来自学术界。 3.前沿模型变得更加昂贵。  根据 AI Index 的估算,最先进的人工智能模型的训练成本已经达到了前所未有的水平。例如,OpenAI 的 GPT-4 估计使用了价值 7800 万美元的计算资源进行训练,而谷歌的 Gemini Ultra 的计算成本则高达 1.91 亿美元。相比之下,几年前发布的一些最先进的模型,即原始 transformer 模型(2017 年)和 RoBERTa Large(2019 年),训练成本分别约为 900 美元和 16 万美元。 4.美国成为顶级人工智能模型的主要来源国。 2023 年,61 个著名的人工智能模型源自美国的机构,超过欧盟的 21 个和中国的 15 个。美国也仍然是人工智能投资的首选之地。2023 年,美国在人工智能领域的私人投资总额为 672 亿美元,是中国的近 9 倍。 然而,中国依然是美国最大的竞争对手,中国的机器人安装量居世界首位;同样,世界上大多数人工智能专利(61%)都来自中国。 5.严重缺乏对 LLM 责任的可靠和标准化评估。  AI Index 的最新研究显示,负责任的人工智能严重缺乏标准化。包括 OpenAI、谷歌和 Anthropic 在内的领先开发商主要根据不同的负责任人工智能基准测试他们的模型。这种做法使系统地比较顶级人工智能模型的风险和局限性的工作变得更加复杂。 6.生成式人工智能投资激增。 尽管去年人工智能私人投资整体下降,但对生成式人工智能的投资激增,比 2022 年(约 30 亿美元)增长了近八倍,达到 252 亿美元。生成式人工智能领域的主要参与者,包括 OpenAI、Anthropic、Hugging Face 和 Inflection,都获得了一轮可观的融资。 7.数据显示,人工智能让打工人更有生产力,工作质量更高。 2023 年,多项研究评估了人工智能对劳动力的影响,表明人工智能可以让打工人更快地完成任务,并提高他们的产出质量。这些研究还表明,人工智能有可能缩小低技能和高技能工人之间的技能差距。还有一些研究警告说,在没有适当监督的情况下使用人工智能可能会起到负面作用。 8.得益于人工智能,科学进步进一步加速。 2022 年,人工智能开始推动科学发现。然而,2023 年,与科学相关的更重要的人工智能应用启动——使算法排序更高效的 AlphaDev、促进材料发现过程的 GNoME、可在一分钟内提供极其准确的 10 天天气预报的 GraphCast、成功对 7100 万种可能的错义突变中的约 89% 进行分类的 AlphaMissence。如今,人工智能现在可以完成人类难以完成的、但对解决一些最复杂的科学问题至关重要的粗暴计算。在医疗方面,新的研究表明,医生可以利用人工智能更好地诊断乳腺癌、解读X射线和检测致命的癌症。 9.美国的人工智能法规数量急剧增加。 2023 年,全球立法程序中有 2175 次提及人工智能,几乎是上一年的两倍。美国人工智能相关法规的数量在过去一年大幅增加。2023 年,与人工智能相关的法规有 25 项,而 2016 年只有 1 项。仅去年一年,人工智能相关法规的总数就增长了 56.3%。其中一些法规包括生成式人工智能材料的版权指南和网络安全风险管理框架。 10.人们对人工智能的潜在影响有了更深刻的认识,同时也更焦虑。 来自市场研究公司 Ipsos 的一项调查显示,在过去一年中,认为人工智能将在未来 3-5 年内极大地影响他们生活的人,比例从 60%上升到 66%。此外,52% 的人对人工智能产品和服务表示焦虑,比 2022 年上升了 13 个百分点。 在美国,来自皮尤研究中心(Pew)的数据显示,52% 的美国人表示对人工智能的担忧多于兴奋,这一比例比 2022 年的 38% 有所上升。
  • 《生成式人工智能和双重用途基础模型的安全软件开发实践》

    • 来源专题:计量基标准与精密测量
    • 编译者:李晓萌
    • 发布时间:2024-08-02
    • 该文件通过增加特定于人工智能(AI)模型开发过程中的实践、任务、建议、考虑事项、注释和参考信息,来增强安全软件开发框架(SSDF)1.1版中定义的安全软件开发实践和任务。这些新增内容以SSDF社区配置文件的形式记录,以支持行政命令(EO)14110,即安全、安全和可信的人工智能发展和使用,该命令要求美国国家标准与技术研究院(NIST)开发一个[SSDF]的配套资源,纳入生成式AI和双重用途基础模型的安全开发实践'。这个社区配置文件旨在对AI模型的制作者、使用这些模型的AI系统的制作者以及这些AI系统的采购者都有用。这个配置文件应与NIST特别出版物(SP)800-218,安全软件开发框架(SSDF)1.1版:减轻软件漏洞风险的建议一起使用。”