《生成式人工智能和双重用途基础模型的安全软件开发实践》

  • 来源专题:计量基标准与精密测量
  • 编译者: 李晓萌
  • 发布时间:2024-08-02
  • 该文件通过增加特定于人工智能(AI)模型开发过程中的实践、任务、建议、考虑事项、注释和参考信息,来增强安全软件开发框架(SSDF)1.1版中定义的安全软件开发实践和任务。这些新增内容以SSDF社区配置文件的形式记录,以支持行政命令(EO)14110,即安全、安全和可信的人工智能发展和使用,该命令要求美国国家标准与技术研究院(NIST)开发一个[SSDF]的配套资源,纳入生成式AI和双重用途基础模型的安全开发实践'。这个社区配置文件旨在对AI模型的制作者、使用这些模型的AI系统的制作者以及这些AI系统的采购者都有用。这个配置文件应与NIST特别出版物(SP)800-218,安全软件开发框架(SSDF)1.1版:减轻软件漏洞风险的建议一起使用。”
相关报告
  • 《人工智能风险管理框架:生成式人工智能概述》

    • 来源专题:计量基标准与精密测量
    • 编译者:李晓萌
    • 发布时间:2024-08-02
    • 根据拜登总统关于安全、可靠和值得信赖的人工智能的第14110号行政命令,本文件是生成式人工智能人工智能风险管理框架(AIRMF1.0)的跨部门简介和配套资源。AIRMF于2023年1月发布,旨在供自愿使用,并提高组织将可信度考虑纳入AI产品、服务和系统的设计、开发、使用和评估的能力。
  • 《人工智能在科学、能源和安全领域的应用》

    • 来源专题:计量基标准与精密测量
    • 发布时间:2023-06-15
    • 近日,来自美国能源部国家实验室、学术界和科技公司的1000多名科学家、工程师和工作人员讨论了人工智能在科学、能源和安全领域迅速出现的机遇和挑战,发布《人工智能在科学、能源和安全领域的应用》报告。该报告为美国能源部(DOE)制定了一个全面的愿景,即通过利用其在世界领先的高性能计算系统和数据基础设施方面的现有优势,扩大其在人工智能科学应用方面的工作。 该报告确定了六种人工智能能力,并描述了它们改变能源部项目领域的潜力。这些包括对电网等复杂系统的控制,以及ChatGPT等生成人工智能程序背后的大型语言模型等基础模型。该报告还列出了实现这些人工智能驱动的转型所需的横切技术。并且描述了科学人工智能在解决方案方面发挥重要作用的“重大挑战”。其中包括改进气候模型、寻找新的量子材料、为清洁能源设计新的核反应堆等。 报告指出,能源部在扩大美国在科学、能源和安全领域的全球领导地位方面处于独特地位。美国能源部运营着世界上最强大的超级计算机,包括新的exascale系统Frontier、Aurora和El Capitan,包括世界上最大的实验设施,在其17个国家实验室雇佣了50000多名员工。 美国能源部的六个国家实验室领导了人工智能研讨会系列和最终报告:阿贡、劳伦斯伯克利国家实验室、劳伦斯利弗莫尔国家实验室、洛斯阿拉莫斯国家实验室、橡树岭国家实验室和桑迪亚国家实验室。