《英特尔推出迄今世界最大神经形态计算机以实现更可持续的人工智能》

  • 来源专题:集成电路
  • 发布时间:2024-04-22
  • 据官网4月17日报道,英特尔公司研制出世界上最大的神经形态计算机Hala Point。它包含11.52亿个人造神经元,分布在1152个Loihi 2芯片上,每秒能进行380万亿次突触操作。英特尔公司希望,这种旨在模拟人脑处理和存储数据方式的计算机能提高人工智能(AI)模型的效率和能力。

    这款代号为Hala Point的大型神经形态系统部署在桑迪亚国家实验室,使用英特尔的Loihi 2处理器,旨在支持未来大脑启发式思考的人工智能研究,并应对与当今人工智能的效率和可持续性相关的挑战。Hala Point推进了英特尔第一代大型研究系统Pohoiki Springs的架构改进,使神经元容量增加了10倍以上,性能提高了12倍。

    Loihi 2神经形态处理器是Hala Point的基础,它应用了受大脑启发( brain-inspired)的计算原理,如异步计算、基于事件的尖峰神经网络(SNN)、集成内存和计算,以及稀疏和连续变化的连接,以实现能耗和性能的数量级提升。神经元之间直接通信,而不是通过记忆进行通信,从而降低了整体功耗。

    Hala Point将1152个Loihi 2处理器封装在一个微波炉大小的六机架数据中心机箱中,这些处理器是在Intel 4工艺节点上生产的。该系统支持分布在140544个神经形态处理核心上的多达11.5亿个神经元和1280亿个突触,最大消耗2600瓦的功率。它还包括2300多个用于辅助计算的嵌入式x86处理器。

    Hala Point将处理、内存和通信信道集成在一个大规模并行化的结构中,总共提供了每秒16 PB的内存带宽、3.5 PB的核心间通信带宽和每秒5 TB的芯片间通信带宽。该系统每秒可处理380万亿个8位突触和240万亿个神经元操作。

    该系统应用于生物激励的尖峰神经网络模型,其11.5亿个神经元的全容量执行速度是人脑的20倍,在较低容量下执行速度高达200倍。虽然Hala Point不用于神经科学建模,但其神经元容量大致相当于猫头鹰的大脑或卷尾猴的皮层。

    基于Loihi的系统可以执行人工智能推理并解决优化问题,使用的能量比传统的CPU和GPU架构少100倍,速度比传统的GPU架构快50倍1。Hala Point的早期结果表明,通过利用高达10:1的稀疏连接和事件驱动活动,该系统可以实现高达15 TOPS/W2的深度神经网络效率,而无需将输入数据分批收集,这是GPU的常见优化,大大延迟了对实时到达的数据(如摄像头视频)的处理。尽管仍在研究中,但未来能够持续学习的神经形态LLM可以通过消除对不断增长的数据集进行定期重新训练的需求,从而节省千兆瓦时的能源。

    原文链接:https://www.intel.com/content/www/us/en/newsroom/news/intel-builds-worlds-largest-neuromorphic-system.html

  • 原文来源:http://www.stdaily.com/guoji/xinwen/202404/11e753fe31fb4a3fb52f36313b20620c.shtml
相关报告
  • 《英伟达推出云人工智能超级计算机和订阅计划》

    • 来源专题:宽带移动通信
    • 编译者:张卓然
    • 发布时间:2021-05-21
    • 英伟达公司,以该公司的A100 GPU(图形处理器)为基础,推出了一项用于企业超级计算机的原生云、多租户人工智能技术,并且为该公司以办公室为主的系统提供单独的订阅服务 英伟达DGX SuperPOD的基础是大约20多个A100图形处理器(GPU)和该公司BlueField2数据处理单元(DPU)的InfinBand组网。这些数据处理单元可以卸载、加速和隔离用户数据,为客户提供客户人工智能基础设施的安全连接。这使得英伟达公司已经能够以订阅的形式提供这项技术。 英伟达公司的Base Command可以让多个用户和信息技术团队安全地访问、共享和操作DGX SuperPOD基础设施。这将协调配合DGX SuperPOD基础设施上的人工智能培训和业务,使位于全球各地的开发团队能够开展工作。 越来越多的企业信息技术部门需要支持位于不同地点的多个团队的工作,而学术机构和研究机构经常授予外部组织访问他们计算资源的权限。安防包括用户流量、防火墙和多租户对存储的访问。 英伟达同意以400亿美元的价格收购ARM 英伟达与ARM的交易遭遇阻力 “人工智能是迄今为止世界上已知的最强大技术,而英伟达的DGX系统是利用人工智能的最有效工具,”英伟达公司副总裁兼DGX系统总经理查理·博伊尔说道。“新的DGX SuperPOD结合了多个DGX系统,提供了一个交钥匙式的人工智能数据中心,整个研究人员和开发人团队乐意安全地共享这个人工智能数据中心。” 索尼公司正在使用DGX SuperPOD,使索尼公司企业研究与开发团队能够在全公司使用人工智能。俄罗斯最大的电信公司MTS正在将DGX SuperPOD作为该公司人工智能开发基础设施和新的公共云服务产品的基础进行使用,并且将公司各个部门的人工智能和数据科学进行整合。 为了加快人工智能计划的实施,VinAI正在东南亚和世界各地使用该公司的DGX SuperPOD,包括自动驾驶汽车、医疗保健和消费服务,DGX SuperPOD将是越南最快的人工智能超级计算机。 BlueField-2数据处理单元可以卸载、加速和隔离用户及其数据,使得各个组织能够安全地为DGX SuperPOD基础设施提供私有云访问。
  • 《英特尔神经拟态研究系统达1亿个神经元计算力》

    • 来源专题:光电情报网信息监测服务平台
    • 编译者:husisi
    • 发布时间:2020-03-24
    • 英特尔宣布其最新神经拟态研究系统PohoikiSprings可提供1亿个神经元的计算能力。英特尔将向英特尔神经拟态研究社区(INRC)的成员提供这一基于云的系统,以扩展其神经拟态工作来解决更大规模且更复杂的问题。 英特尔神经拟态计算实验室主任MikeDavies介绍称:“PohoikiSprings将我们的Loihi神经拟态研究芯片扩展了750倍以上,同时以低于500瓦的功率运行。当前,一些工作负载在传统架构(包括高性能计算[HPC]系统)上运行缓慢。而PohoikiSprings系统则让我们的研究合作伙伴能够探索加速处理这些工作负载的方法。” PohoikiSprings是一个数据中心机架式系统,是英特尔迄今为止开发的最大规模的神经拟态计算系统。它将768块Loihi神经拟态研究芯片集成在5台标准服务器大小的机箱中。 Loihi处理器的设计思路来源于人脑。与大脑一样,Loihi能用比传统处理器快1000倍的速度和高10000倍的效率处理特定要求的工作负载。PohoikiSprings是扩展Loihi架构的下一步,可用于评估其解决AI问题以及一系列计算难题的潜力。英特尔研究人员认为,与当今最先进的传统计算机相比,神经拟态系统拥有超级并行性和异步信号传输能力,可以在明显降低功耗的同时显著提升性能。 在自然界中,即使是一些最小的生物也能解决极为困难的计算问题。例如,尽管很多昆虫大脑的神经元数目远低于100万个,但它们却能实时视觉跟踪物体、导航和躲避障碍物。同样,英特尔最小的神经拟态系统KapohoBay由两个具有262,000个神经元的Loihi芯片组成,支持各种实时边缘工作负载。英特尔和INRC研究人员展示了Loihi的各种能力,包括实时识别手势、使用新型人造皮肤阅读盲文、使用习得的视觉地标确定方向,以及学习新的气味模式。所有这些功能都只需要消耗数十毫瓦的电能。到目前为止,这些小规模示例显示出极好的可扩展性,当运行更大规模的问题时,Loihi比传统解决方案更加快速高效。这模仿了自然界中从昆虫大脑到人类大脑的可扩展性。 PohoikiSprings拥有1亿个神经元,它将Loihi的神经容量增加到一个小型哺乳动物大脑的大小,这是在向支持更大、更复杂的神经拟态工作负载的道路上迈出的重要一步。该系统为需要实时、动态的数据处理新方法的自主、互联的未来奠定了基础。 英特尔的PohoikiSprings等神经拟态系统仍处于研究阶段,其设计目的并非取代传统的计算系统,而是为研究人员提供一个工具来开发和表征新的神经启发算法,用于实时处理、问题解决、适应和学习。INRC成员将使用英特尔NxSDK和社区贡献的软件组件,通过云访问在PohoikiSprings上构建应用程序。 目前正为Loihi开发的算法示例包括: 约束满足:约束满足问题在现实世界中无处不在,从数独游戏到航班调度,再到快递配送规划。这需要对大量潜在的解决方案进行评估,以找出一个或几个能够满足特定约束的解决方案。Loihi可以通过高速并行探索多个不同的解决方案来加速解决此类问题。 搜索图和模式:每天,人们都会在基于图的数据结构中进行搜索,以找到最佳路径和紧密匹配的模式,例如获取驾驶方向或识别人脸。Loihi已展示出快速识别图中的最短路径和执行近似图像搜索的能力。 优化问题:可对神经拟态架构进行编程,使其动态行为能够随时间的推移对特定目标进行数学优化。此行为可应用于解决现实场景下的优化问题,例如最大化无线通信信道的带宽,或分配股票投资组合,以在目标收益率下最小化风险。 关于神经拟态计算:传统的CPU和GPU等通用处理器特别擅长人类难以完成的任务,如高精度的数学计算。但随着技术的作用和应用范围都在不断扩大,从自动化到人工智能,以及其他更多领域,越来越要求计算机的操作模式趋向于人类,以便实时处理非结构化和有噪声的数据,并不断地适应变化。为应对这一挑战,新的专用架构应运而生。 神经拟态计算是对计算机架构自下而上的彻底颠覆。其目标是应用神经科学的最新见解,来创造作用方式更类似于人脑的芯片而非传统计算机的芯片。神经拟态系统在硬件层面上复制了神经元组织、通信和学习方式。英特尔认为Loihi和未来的神经拟态处理器将定义一种新的可编程计算模式,可满足世界对普及型智能设备日益增长的需求。