《高质量大模型基础设施研究报告》

  • 来源专题:新一代信息技术
  • 编译者: isticzz2022
  • 发布时间:2025-04-16
  •    报告聚焦大模型基础设施的五大核心能力领域:计算、存储、网络、开发工具链和运维管理,系统梳理了大模型发展对基础设施提出的新需求,剖析了基础设施发展的关键技术,并提出体系化评价指标。同时,报告通过分析业界典型实践案例,为企业建设高质量大模型基础设施提供了参考。【目  录】一、大模型基础设施概述(一)大模型基础设施概念与特性(二)大模型基础设施现状二、大模型基础设施挑战(一)计算资源分配粗放,利用率低成为新难题(二)海量数据处理低效,数据存储成为新瓶颈(三)并行计算规模攀升,网络通信成为新阻碍(四)模型参数急剧增长,开发效率成为新约束(五)基础设施故障率高,运维能力成为新挑战三、大模型基础设施关键技术(一)高效算力管理调度技术(二)高性能大模型存储技术(三)高通量大规模网络技术(四)高效能大模型开发技术(五)高容错大模型运维技术四、高质量大模型基础设施评价指标(一)指标体系(二)能力指标五、高质量大模型基础设施典型实践(一)案例一:Meta大模型基础设施实践(二)案例二:蚂蚁集团大模型基础设施实践(三)案例三:某科技公司大模型基础设施实践六、总结与展望
相关报告
  • 《钢铁行业5G确定性网络研究报告》

    • 来源专题:先进制造业科技服务情报监测平台
    • 发布时间:2022-10-21
    • 钢铁工业是我国国民经济的重要基础产业,是建设现代化强国的重要支撑,是实现绿色低碳发展的重要领域。在钢铁行业数字化智能化转型升级亟需网络新技术赋能的重要历史时刻,冶金工业信息标准研究院参与研制的IMT-2020(5G)推进组《钢铁行业5G确定性网络研究报告》(以下简称报告)正式发布。报告由中国联通牵头,中国信息通信研究院、北京科技大学、冶金工业信息标准研究院、首钢集团有限公司技术研究院、河钢数字技术股份有限公司、中兴、华为等14家企事业单位共同研制完成,探讨如何运用5G确定性网络为钢铁工业数字化转型、智能制造注入强大发展动力。  中国联通研究院副院长唐雄燕博士表示:确定性网络是“联接+感知+计算+智能”的新一代数字信息基础设施的重要技术之一,中国联通将在CUBE-Net3.0网络创新体系中加大投入研发力量和应用推广力度,携手产业界伙伴积极为钢铁等重要行业应用提供客户提供高品质网络信息化服务,赋能产业数字化转型。 中国信息通信研究院5G应用创新中心副主任杜加懂指出:当前我国钢铁行业逐渐由“制造”走向“绿色智造”转变,5G逐渐成为助力钢铁行业数字化高质量发展的关键技术之一。构建面向钢铁行业的5G网络模板,形成5G网络在钢铁领域部署、运维及推广的模式,是当前5G在钢铁领域规模化复制推广的关键。 北京科技大学工业互联网研究院院长王健全教授认为:5G与工业互联网作为新的国家信息基础设施,在使能智能制造方面发挥着积极的作用钢铁是工业的“粮食“,钢铁行业是重要的基础产业,数字化、智能化转型需求十分迫切,5G确定性技术的应用将推动数字产业与钢铁产业深度融合,提升钢铁行业智能化水平。 冶金工业信息标准研究院智能制造标准化工作组秘书长刘斓冰认为:钢铁行业将数字化、网络化、智能化作为高质量发展的重要手段,重点关注5G这项新技术在钢铁制造过程中带来的应用价值。当前市场上5G相关解决方案较多,相关设备质量、接口、网关、以及应用效果良莠不齐,急需5G与钢铁行业融合的高质量标准。 首钢集团有限公司技术研究院王凤琴所长认为:5G网络对提升钢铁行业的网络化、智能化水平具有强大的推动作用,尤其是5G确定性网络将带来更大的应用前景。钢铁企业探索5G等新型ICT技术在生产制造等核心环节的应用已经提上日程。河钢数字技术股份有限公司目前正在推进河钢集团搭5G数字化工厂建设,推进5G确定性网络与现有网络融合,借助5G高速率、低延时等特性实现钢带表面检测、无人天车、钢厂人员安全监控等新型智能应用。 中兴通讯副总裁刘金龙认为:钢铁行业作为工业的龙头已经发展了近百年,同时作为流程制造的典型行业,本身自动化程度很高,但相对封闭;随着通讯产业的发展,特别是5G网络的建设和大数据AI的迅猛发展,为百年钢铁行业数字化转型升级提供了契机。华为云核心网产业发展部部长董浩认为:随着5G网络与钢铁行业的核心生产应用结合,需要打造具备工业属性的5G系统。UPF等关键部件的部署位置在不断演进,正从工厂或者园区级,进一步进入现场OT网络,确定性技术的应用,将赋能系统在可用性,高确定性时延等方面显著增强。 基于起草团队的多次沟通和共同努力,《钢铁行业5G确定性网络研究报告》形成了以下基本共识:一是,我国钢铁行业已经逐步掌握了工艺装备关键核心技术,各制备工序自动化程度较高,拥有功能完备的一到五级控制系统,具备良好的硬件与网络设备水平。目前大多数钢铁企业的工业制造系统处于工业3.0阶段。当前主要痛点在于数据在制造业系统内部传递不畅。随着网络、数据处理、人工智能等技术的发展,钢铁企业需要畅通的网络基础设施来支撑其建立强大的企业级“心脏”,以促进数据生产要素在企业内部调度与流动,实现以定制化生产为中心,进行计划排产和柔性化生产,激活价值链。 二是,5G有助于工厂自动化系统打通传统ISA-95金字塔架构造成的上下层以及同层不同设备之间数据流通不畅的问题。随着IT、CT与OT技术走向融合,传统工业自动化瓶颈正在逐渐被打破,5G等无线通信技术有助于金字塔架构各层级之间解耦,以实现数据顺畅流动,拉通现场级到工厂级的网络连接,实现传感/执行器与云端控制器直接交互、生产要素间智能互联与协同能力,使得数据能够纵向跨层、横向跨系统和设备进行交互。 三是,5G确定性网络可以分阶段不断提升钢铁制造业产能、提升效益最大化并降低成本:现阶段,利用5G确定性网络对综合业务的SLA保障能力,可有助于现有单点的5G钢铁业务场景规模复制和推广;下一阶段,随着数字化程度加深,5G确定性网络作为叠加在钢铁行业生产网络之上的一张基础打底网络,能够有效采集生产场景以及生产辅助场景的各种数据,从而为钢铁企业构造智能制造系统“心脏”提供不可缺少的网络基础;再下一阶段,5G确定性网络将与钢铁现场网络进行对接与深度融合,这将从更深层次打通决策分析与现场控制系统,实现工控与数采一张网,从而赋能钢铁行业“智慧大脑”。
  • 《《基于重大科技基础设施技术创新的系统化:ATTRACT项目》》

    • 来源专题:重大科技基础设施领域知识集成服务平台
    • 发布时间:2021-03-16
    • 2020年9月22日,ATTRACT项目组发布题为《基于重大科技基础设施技术创新的系统化:ATTRACT项目》(Systematizing serendipity for big science infrastructures: the ATTRACT project)研究报告,通过分析ATTRACT 项目数据集,探讨政策如何促进科学研究在其原有范围之外的应用,发现-不同于以前提出的发现类型的意外发现模式。通过展示政策干预的潜力,个人和组织能够发现大科学研究的意想不到的商业应用。 ATTRACT资助了170个项目,为每个项目拨款10万欧元,以利用这些项目的各种技术促进企业发展,并为欧洲经济带来更大的经济回报。通常,科研人员会在ATTRACT项目文本中描述为自己的科学研究开发新应用的模式。在此次分析中,通过判读、汇总上述170个项目在文本中反复出现的主题,将项目进行分类,给出ATTRACT项目中的意外发现模式: 1、不同技术的结合(占比41%)。在这一类别下,技术可以来自研究方向相似或差别明显的不同领域,并通过不同程度进行集成。例如,SCENT项目旨在创造新的气体传感器,其利用了两个迄今为止并不相关的学科——高压技术和气体传感,前者主要用于材料的合成,后者此前也并未有与前者结合的案例出现。 2、基于以往研究进行扩展和构建(占比31%)。通过重新审视以前的研究来识别或探索新特征。这项工作通常需要细致地审视以前获得的知识,并在现有数据中寻找新的视角。重新诠释以往研究的另一种方法是增强特征或探讨技术在极端条件下的适用性。例如,有许多项目正在研究电流探测器在极冷的温度下或在辐射非常高的环境中使用的可能性。类似地,也有一些项目通过想象一项技术变得更高效或更强大的情况下,可以创造哪些机会来开发新的应用领域。 3、将技术应用到另一个领域(占比27%)。这一类别与“意外”概念最吻合——为现有技术找到新用途。将现有技术应用于以往从未应用过的领域,可能会出现新用途、新案例。特别是对ATTRACT项目的大型科研机构来说,它们研发的技术可能只应用于自身科学领域之内。但这些新技术也能为其他领域提供新的视角,或者提出新的方法处理领域内现有技术无法充分解决的问题。 4、使用人工智能或机器学习(占比14%)。这一模式是将机器学习应用于某一特定场景。它可以被认为是前一个类别的子集,因为机器学习是源于计算科学的突破,其在不同领域找到了新用途。人工智能或机器学习能够发现人类无法轻易识别的模式,提高了各种传感器从其收集的数据中获取有效信息的能力。这一类别中的许多项目都属于医疗保健领域。 该研究找到了两种以前未被确认的模式——不同技术的结合和使用机器学习。当然,还需要使用其他数据进行更系统的分析,以证实该研究结果并确定实现意外发现的其他方法。