《韩国科学技术院宣布开发出一种人工智能半导体技术,能将ChatGPT性能提升超过60%》

  • 来源专题:集成电路与量子信息
  • 发布时间:2025-07-11
  • 韩国科学技术院(KAIST)的研究团队开发了一种人工智能(AI)半导体技术,能够将ChatGPT的性能提高60%以上。这项技术由KAIST计算学院的Park Jong-se教授和电气工程学院、初创公司HyperExcel的Kim Joo-young教授合作研发,是一种高性能、低功耗的神经处理单元(NPU),专门用于生成式AI服务。研究发现,这种NPU在减少44%功耗的情况下,提高了生成式AI模型的平均推理性能60%以上。 NPU是一种专门用于AI计算的半导体,有望成为目前由NVIDIA主导的图形处理单元(GPU)的替代品。

    该研究成果在6月21日于日本东京举行的“2025年计算机架构国际研讨会(ISCA)”上发表。通过结合减少内存需求的轻量化技术和优化的硬件设计,同时保持了推理精度,研究团队实现了一种比最新GPU平均提高60%以上性能的NPU。这种技术不仅在数据中心中发挥关键作用,还将在AX(自动驾驶、机器人等)领域中应用广泛。

  • 原文来源:http://www.businesskorea.co.kr/news/articleView.html?idxno=246325
相关报告
  • 《韩国科学技术院宣布研发出最快的存算一体半导体“DynaPlasia”用于AI计算》

    • 来源专题:集成电路
    • 编译者:李衍
    • 发布时间:2023-03-15
    • 据韩国时报等多家韩媒3月14日报道,韩国科学与信息通信技术部宣布,韩国科学技术院Hoi-Jun Yoo教授领导的研究团队开发出了全球首款通过集成计算器进行人工智能计算的在内存中计算的(processing-in-memory,PIM)半导体“DynaPlasia”。此次开发的DynaPlasia是一种采用模拟方法将运算符直接集成在存储单元中,运用全球首次开发的“三模单元”结构制作人工智能运算的半导体,该低功耗超强智能半导体中所有存储单元都可以并行运行,与现有的数字PIM半导体相比,数据吞吐量提高了15倍,比现有模拟PIM半导体速率提高2.5倍,图形效率提高7倍,其计算性能和功率效率得到了显著提高。DynaPlasia是根据需要基于动态随机访问存储器DRAM的硬件“三模单元”结构来处理各种人工智能数据模型,实现“低功耗操作”的技术。DynaPlasia将处理器与内存功能相结合。三星电子(Samsung Electronics)和SK海力士(SK Hynix)等公司已经推出了基于DRAM的PIM,但这些是数字DRAM-PIM产品,将软件实现的处理器置于存储单元之外。此外,KAIST团队还开发了电流泄漏容忍计算技术,以消除电流泄漏的影响,并执行允许所有存储单元快速并行操作的模拟操作。Yoo表示,这项研究意义重大,因为它不仅解决了存储芯片的技术瓶颈,还开发了高容量DRAM-PIM。如果实现商业化,DynaPlasia的开发可以用于人工智能服务,这将能够在最近变得更加庞大和多样化的人工智能模型中显示出高性能。此前据韩国经济新闻报道,韩国科学技术信息通信部长官李宗昊2022年12月12日表示,到2030年,韩国将通过使用国家高性能、低功耗的内存处理(PIM)技术,将韩国国内AI半导体提升到世界最佳水平,该技术在高科技内存芯片中增加了计算功能。为实现这一目标,政府将在2030年前投资8000亿韩元(6.12亿美元)用于PIM研发,并推动建立一个 “K-Cloud ”生态系统,将商业化的技术与市场需求联系起来。该部还表示,到2030年,韩国国内市场上用于数据中心的国产AI芯片份额将提高到80%。参考文献:https://www.163.com/dy/article/HVR662KB055225XN.htmlhttps://www.jiemian.com/article/8564269.html
  • 《韩国SK海力士开发出下一代智能存算一体芯片技术》

    • 来源专题:集成电路
    • 编译者:李衍
    • 发布时间:2023-03-15
    • 据官网2月16日报道,SK海力士宣布已开发出具备计算功能的下一代内存半导体技术“PIM(processing-in-memory,存算一体)”。 到目前为止,存储半导体负责保存数据,而非存储半导体(如CPU或GPU)负责处理数据是人们普遍的认知。尽管如此,SK海力士依然在新一代智能存储器领域积极摸索创新,进而首次公开公司在相关领域的研发成果。 SK海力士将在2月底于美国旧金山举行的半导体领域最负盛名的国际学术大会 – 2022年ISSCC(International Solid-State Circuits Conference,国际固态电路会议)大会上发布PIM芯片技术的开发成果。随着PIM技术的不断发展,SK海力士期待存储半导体在智能手机等ICT产品发挥更为核心的作用,甚至在未来成功实现“存储器中心计算(Memory Centric Computing)”。 SK 海力士还开发出了公司首款基于PIM技术的产品 – GDDR6-AiM(Accelerator-in-Memory,内存加速器3)的样本。GDDR6-AiM是将计算功能添加到数据传输速度为16Gbps的GDDR6内存的产品。与传统DRAM相比,将GDDR6-AiM 与 CPU、GPU 相结合的系统可在特定计算环境中将演算速度提高至最高16倍。GDDR6-AiM有望在机器学习、高性能计算、大数据计算和存储等领域有广泛应用。 GDDR6-AiM的工作电压为1.25V,低于GDDR64内存的标准工作电压(1.35V)。不仅如此,PIM的应用还减少了与CPU、GPU的数据传输往来,从而降低了CPU及GPU的能源消耗,借此GDDR6-AiM成功使功耗降低80%。SK海力士相信,借助该产品的低能耗特性,公司得以减少设备的碳排放并改善公司的ESG经营成果。基于具备独立计算功能的PIM技术,SK海力士将通过GDDR6-AiM构建全新的存储器解决方案生态系统。 此外,SK 海力士还计划与最近刚从SK电讯拆分出来的人工智能半导体公司SAPEON Inc.携手合作,推出将GDDR6-AiM和人工智能半导体相结合的技术。