韩国科学技术院(KAIST)的研究团队开发了一种人工智能(AI)半导体技术,能够将ChatGPT的性能提高60%以上。这项技术由KAIST计算学院的Park Jong-se教授和电气工程学院、初创公司HyperExcel的Kim Joo-young教授合作研发,是一种高性能、低功耗的神经处理单元(NPU),专门用于生成式AI服务。研究发现,这种NPU在减少44%功耗的情况下,提高了生成式AI模型的平均推理性能60%以上。 NPU是一种专门用于AI计算的半导体,有望成为目前由NVIDIA主导的图形处理单元(GPU)的替代品。
该研究成果在6月21日于日本东京举行的“2025年计算机架构国际研讨会(ISCA)”上发表。通过结合减少内存需求的轻量化技术和优化的硬件设计,同时保持了推理精度,研究团队实现了一种比最新GPU平均提高60%以上性能的NPU。这种技术不仅在数据中心中发挥关键作用,还将在AX(自动驾驶、机器人等)领域中应用广泛。