《生成式人工智能和双重用途基础模型的安全软件开发实践》

  • 来源专题:计量基标准与精密测量
  • 编译者: 李晓萌
  • 发布时间:2024-08-02
  • 该文件通过增加特定于人工智能(AI)模型开发过程中的实践、任务、建议、考虑事项、注释和参考信息,来增强安全软件开发框架(SSDF)1.1版中定义的安全软件开发实践和任务。这些新增内容以SSDF社区配置文件的形式记录,以支持行政命令(EO)14110,即安全、安全和可信的人工智能发展和使用,该命令要求美国国家标准与技术研究院(NIST)开发一个[SSDF]的配套资源,纳入生成式AI和双重用途基础模型的安全开发实践'。这个社区配置文件旨在对AI模型的制作者、使用这些模型的AI系统的制作者以及这些AI系统的采购者都有用。这个配置文件应与NIST特别出版物(SP)800-218,安全软件开发框架(SSDF)1.1版:减轻软件漏洞风险的建议一起使用。”
相关报告
  • 《人工智能风险管理框架:生成式人工智能概述》

    • 来源专题:计量基标准与精密测量
    • 编译者:李晓萌
    • 发布时间:2024-08-02
    • 根据拜登总统关于安全、可靠和值得信赖的人工智能的第14110号行政命令,本文件是生成式人工智能人工智能风险管理框架(AIRMF1.0)的跨部门简介和配套资源。AIRMF于2023年1月发布,旨在供自愿使用,并提高组织将可信度考虑纳入AI产品、服务和系统的设计、开发、使用和评估的能力。
  • 《生成式人工智能应用发展报告(2024)》

    • 来源专题:新能源汽车
    • 编译者:王晓丽
    • 发布时间:2025-01-13
    • 《报告》显示,各行各业正在积极拥抱生成式人工智能带来的智能化升级浪潮。一是各领域引入生成式人工智能实现降本增效。例如,海淀区政府利用政务大模型,将查找数据、指标计算等场景所需的3天工作时长降低到1分钟,把图标绘制、报告撰写等场景所需的5天工作时长降低到30分钟。二是多模态能力拓展了生成式人工智能的应用边界。自动驾驶是新质生产力典型代表,也是多模态大模型的典型应用场景。北京、上海、广州、武汉等城市已广泛开展自动驾驶出行服务应用示范。萝卜快跑的第六代车辆搭载自动驾驶大模型ApolloADFM,结合点云和视觉的多模态融合,能够更精确地检测和理解复杂环境中的障碍物,实现对各类信息的深层理解和联动,更有利于将自动驾驶服务扩展到跨区通行、跨江通行、机场高速通行等多种场景。三是智能体成为连接用户与各类服务的新桥梁。在政务服务领域,中卫慧通利用基层政务智能体帮助村民们解答生活中的各种问题,已覆盖6000多个村庄,约3万名基层政务工作人员用大模型服务超千万居民,实现对居民需求的快速精准反馈处理。在企业运营领域,比亚迪等企业将智能体应用于销售、售后领域,为用户提供专业、高效的咨询服务,其销售线索转化率提升了119%