《谷歌发布第六代TPU芯片Trillium》

  • 来源专题:集成电路
  • 发布时间:2024-05-27
  • 2024年5月15日,谷歌正式发布了其最新一代TPU(张量处理器)芯片Trillium。这款专为大规模机器学习训练和部署而设计的定制芯片,将再次推动人工智能计算性能的大幅跃升,为复杂AI模型的研发应用提供强劲动力。

    第六代TPU芯片Trillium采用先进的芯片架构与制程工艺,单个TPU芯片的算力较上一代产品提高了2倍以上,同时能效比也获得显著提升。Trillium芯片支持多种精度的张量运算,可灵活匹配不同AI模型的训练和推理需求。Trillium系列中首次加入了专为Transformer类大语言模型优化的大规模MLP(多层感知器)核心,与标准TPU核心协同工作,将进一步提升大模型的训练速度与效率。

    为满足大规模集群部署的需要,谷歌还发布了基于Trillium芯片的全新机架系统TPU v6 Pod。每个TPU v6 Pod由512个Trillium芯片(共4096个TPU核心)组成,提供高达1.5 ExaFlops的峰值性能,较上一代提升83%。Pod系统内置了高性能互连网络,芯片间采用ICI (Inter-Chip Interconnect) 链路直连,显著降低了通信延迟,使大规模并行成为可能。

    在软件层面,谷歌也发布了全新的编译和运行时框架,进一步优化了编程模型和并行调度,大幅简化了大模型分布式训练的开发流程。新的框架支持自动切分模型、划分数据子集、均衡负载等关键特性,开发者无需深入了解底层硬件细节,即可最大限度发挥TPU集群的性能优势。

    此外,谷歌还宣布将与业界领先的芯片代工厂台积电合作,采用台积电的3纳米工艺制造下一代TPU,以加速产品创新迭代步伐。这也标志着谷歌在自研芯片领域的长期投入进一步深化,有望使其在定制AI芯片赛道建立更强的竞争优势。

    新一代Trillium系列的推出,将助力各行业用户显著降低AI部署门槛,更高效、更经济地开发和应用前沿的机器学习模型。这对于进一步推动人工智能技术的规模化应用、加速产业智能化变革进程具有重要意义。

    Trillium系列将不仅支持主流机器学习框架如TensorFlow、PyTorch、JAX等,还计划面向科研机构和高校推出面向前沿研究的TPU计划,推动人工智能领域更多突破性创新的涌现。未来,谷歌还将持续加大在AI芯片、算法、应用等层面的研发投入,为用户提供Leading Edge的技术和解决方案,加速人工智能行业整体发展。


  • 原文来源:https://cloud.google.com/blog/products/compute/introducing-trillium-6th-gen-tpus
相关报告
  • 《谷歌联合三星开发5nm芯片,对标苹果?》

    • 来源专题:光电情报网信息监测服务平台
    • 编译者:husisi
    • 发布时间:2020-05-07
    • 有消息称,谷歌与三星合作研发的处理器已经收到第一批工程样本。该处理器代号“Whitechaple”,采用三星5nm制程,将搭载在Pixel手机及Chromebook笔记本上。在自研了云端、边缘端处理器之后,谷歌自研手机处理器意欲何为?将对谷歌的生态、产品产生哪些影响? 面向终端设备的主处理器 据悉,谷歌与三星联合设计的5nm芯片是一枚“起到关键作用的”主处理器,对设备的运行速度、电池续航能力和性能起到决定性作用。该处理器采用Arm8核CPU,硬件针对谷歌机器学习进行优化,并支持谷歌助手和“始终在线”功能。 近期,谷歌收到了第一批工程样本。该处理器明年有望搭载在Pixel手机上,后续版本将搭载在Chromebook笔记本上。 谷歌一直在强化半导体业务能力。此前发布的Pixel手机上已经搭载了谷歌定制设计的机器学习和图像处理芯片,谷歌还从苹果、英特尔等竞争对手“挖角”了芯片工程师。但是,手机处理器需要CPU、GPU、通信基带等多个芯片,任何一个短板都将使谷歌无法完全摆脱对高通等芯片巨头的依赖。 补齐云边端芯片版图 无论是海外五大科技巨头“FAANG”(脸书、苹果、亚马逊、奈飞、谷歌),还是国内的“BAT”,都在进军芯片设计业务。早在2006年,谷歌就开始研究如何在数据中心中使用GPU、FPGA和定制ASIC。在科技巨头跨界“造芯”的道路上,谷歌是一支不可忽视的力量。 从2015年起,谷歌基于自主研发的定制化芯片TPU,完成了云-边、端-端的计算架构协同。2016年的I/O开发者大会上,谷歌公布了自主研发的定制化芯片TensorProcessingUnits(TPU),以强化数据中心的机器学习能力。 2017年,谷歌将第二代TPU引入谷歌云平台,后续推出的第三代云TPU利用谷歌云平台的AI服务运行及其学习模型,可实现单个Pod中每秒超过100千万亿次浮点运算性能。在云TPU的基础上,谷歌又推出了针对边缘侧的EdgeTPU。这款ASIC芯片是对CloudTPU和谷歌云服务的补充,能实现端到端、云端到边缘的基础架构。 在云计算、AI、5G的催化下,云边端一体化趋势增强。华为、阿里、英特尔等厂商都在践行“云-边-端”的计算架构协同。华为董事徐文伟表示,华为的价值主张是打造一个平台,把众多的传感器连接起来,实现连接+平台+AI+生态。为此,华为在端、边、云都推出并部署了AI芯片。在手机端,华为从麒麟970开始嵌入AI芯片,在边缘端,华为推出了应用于汽车的人工智能计算芯片Ascend310,在云端则部署了鲲鹏920等芯片。阿里云推出IoT边缘计算产品LinkEdge时宣布将打造云、边、端一体化的协同计算体系,并陆续推出用于设计制造高性能端上芯片的IP核玄铁910、SoC芯片设计平台“无剑”、云端芯片含光800,端云一体初步成型。 在终端侧,谷歌曾为手机主处理器设计辅助芯片,包括提升手机图像处理能力的PixelVisualCore,提升声音识别和转录能力的PixelNeuralCore等,以负载手机端的机器学习类任务。但是,随着云算力下沉、终端算力上升、边缘算力融合的趋势不断加强,拥有一颗针对自家生态进行优化的端处理器,才能更好地发挥谷歌在机器学习的优势和沉淀,让手机、笔记本等终端与谷歌的AI算力体系紧密贴合。 提升产品体验 2010年,苹果发布了采用自研处理器A4和自家操作系统iOS4的里程碑式产品iPhone4,自此摆脱了对三星处理器的依赖。 长期以来,谷歌安卓与苹果iOS是两大手机操作系统。苹果通过自研A系列处理器,让硬件更好地贴合软件系统需要,实现软硬件一体化。谷歌自研移动终端处理器,也有利于更好地发挥软件系统能力,通过软硬件协同优化终端体验。 “谷歌与苹果殊途同归,谷歌一直在建立半导体能力,在掌握软件的同时掌握硬件,这种软硬件一体化的方式无疑是推动服务深度整合的最好方法。自研处理器是谷歌打造闭环生态的初步尝试,也是第一步。”赛迪顾问集成电路产业研究中心分析师陈跃楠向记者指出。 集邦咨询分析师姚嘉洋向记者表示,由于智能型手机大多是以Android阵营为主,谷歌累积了庞大的数据库与AI运算资源,打造自有处理器有利于优化智能手机的AI应用。例如,让用户与手机语音助理之间的对话更为智慧,让语音助理更好地理解用户需求、语言翻译更为精确,省电与性能提升表现更为优异等,以Google现今的布局态势来看,确实会有这样的战略思考。 但是,手机处理器研发门槛高,属于资金、技术密集型业务,是块难啃的硬骨头。姚嘉洋表示,苹果之所以能在处理器领域如鱼得水,得益于先前的收购策略和早期投入,累积了相对丰富的处理器开发经验。加上苹果近年来在业务上的转型,服务相关收入日益攀升,推动整体获利提升,这成为处理器研发的坚实后盾,使得苹果在处理器开发上处于一定的领先地位。 与苹果类似,谷歌在移动芯片领域也有着早期收购和人才积累。在2010年A4处理器发布之前,苹果传出收购被用于手机和移动终端的芯片企业Intrinsity。同时,谷歌也传出收购芯片设计创业公司Agnilux。2017年,有消息称谷歌挖角了苹果的芯片设计师ManuGulati担任SoC系统架构设计师。 此前Gulati曾参与iPhone、iPad以及AppleTV等产品定制芯片的研发。同一年,谷歌斥资11亿美元收购HTC手机研发团队,进一步增强手机硬件的设计能力。去年,谷歌在印度班加罗尔成立了新的芯片团队,成员包括从英特尔、英伟达、高通聘用的工程师,目标是设计手机及数据中心芯片。 但是,谷歌自研手机处理器并非毫无风险。受限于Pixel手机的市场份额,谷歌需要把控处理器研发投入和产品收益的平衡。 “由于Pixel手机在市场仍属于少数,开发一颗5nm的主处理器置于智能手机中,单是开发费用动辄需要数百万甚至千万美元。尽管谷歌近年的营收表现十分优异,但若无法一战成名,恐怕不利于长期的处理器开发计划。”姚嘉洋说。
  • 《广汽12款车规芯片发布,中国汽车芯片产业加速突围》

    • 来源专题:能源情报网监测服务平台
    • 编译者:郭楷模
    • 发布时间:2025-04-15
    • 在汽车产业深度变革的浪潮中,芯片作为智能电动汽车的“神经中枢”,一直是技术博弈的焦点。长期以来,中国汽车芯片产业面临“卡脖子”困境——高端芯片依赖进口、产业链生态薄弱、技术标准受制于人。然而,随着国家战略的牵引、产业资本的涌入以及企业创新的爆发,一场以自主可控为目标的突围战正全面打响。 广汽多款车规级芯片发布 近日,广汽集团在科技日活动上正式发布了12款车规级芯片,覆盖智能汽车电源管理、制动、集成安全及网络通信等关键领域。同时还发布了“汽车芯片应用生态共建计划”,促进产业链协同。 本次广汽发布的的12款车规级芯片,分别与中兴通讯、裕太微电子、仁芯科技、矽力杰、极海、奕斯伟、杰华特、国芯、美泰等公司联合开发。其中包括了: ●与中兴通讯联合定义的G-C01芯片,行业首款多核异构多域融合中央处理芯片,拥有26路高速的接口,内置超强的数据交换引擎,数据通信效率提升25%。 ●与裕太微电子共同打造的G-T01芯片,国内首款车规级的万兆以太网TSN交换芯片,可支持多种高速通信协议,包括11个高速的通信端口,最高速率可达10Gbps,网速相当于千兆宽带的10倍。 ●与仁芯科技联合开发的G-T02芯片,是全球首款16Gbps高带宽的SerDes芯片,最高可支持3000万的超高像素。 ●与矽力杰开发的G-K01芯片,是全球首款符合ASIL-D功能安全等级的6核RISC-V芯片,拥有6k超级算力。 ●和极海、奕斯伟、杰华特、鸿翼芯、国芯、美泰联合开发了8款应用,在电源管理、底盘、集成安全多个领域的芯片产品。 这些明确披露的芯片型号(G-C01, G-T01, G-T02, G-K01)直接瞄准了下一代汽车电子电气架构中的核心技术环节:中央计算、高速网络、高速传感接口和高等级功能安全控制。可以看出,广汽的芯片战略并非仅仅是替换现有低端芯片,而是旨在构建支撑其先进智能化、网联化车辆平台所需的基础核心部件。 广汽集团还发布了“汽车芯片应用生态共建计划”,通过深化“产学研用”协同创新,打造整车-控制器-芯片端到端联动验证平台,实施“一芯多源”策略,保障供应链的安全稳定。 其实,广汽集团进军车规级芯片领域早有考量。早在2022年,广汽董事长曾庆洪曾指出,缺乏自主研发、高度依赖进口和产业链发展滞后是国内芯片产业面临的主要问题,明确表示将优化汽车芯片领域的布局,推动自研芯片发展,以期实现供应链的自主可控并提升综合竞争力。 近年来,广汽集团在自主研发方面投入巨大,累计投入已达450亿元人民币,并牵头设立了300亿规模的智能网联新能源汽车产业发展基金。这些持续的投入为此次芯片发布奠定了坚实的基础。 中国汽车芯片产业突围加速 在全球汽车产业加速向电动化、智慧化转型的浪潮中,中国的汽车芯片产业链正以惊人的速度重建。除了上述广汽集团在汽车芯片自主研发上的成果,蔚来、比亚迪等相关车企也加速发力,更吸引国际企业重金押注。 蔚来宣布从ET9车型开始逐步使用自研芯片,首发搭载“神玑NX9031”智驾芯片,具备“一颗抵四颗”的端侧推理能力。该芯片通过技术自主创新,摆脱对英伟达等国际供应商的依赖,推动智能驾驶核心技术国产化。 比亚迪推出1500V大功率SiC芯片,解决了模块耐压瓶颈,这是汽车电机驱动领域首次大规模量产应用的最高电压等级SiC芯片。实现电池、电机、电源、空调等都做到1000V,达到全球量产最快充电速度——闪充5分钟,畅行400公里。 地平线推出征程6系列,共包含征程6B、征程6L、征程6E、征程6M、征程6H和征程6P共六个版本。征程6E支持域控被动散热,能够适用各类动力车型。该芯片的单颗算力约80 TOPS。多款搭载征程6E的车型将于年内落地。 同时,英伟达、英特尔等国际企业通过与中国车企合作,加速车规级芯片的本地化适配。英飞凌与意法半导体也重金押注中国汽车芯片产业。 结语 整体来看,中国汽车芯片产业已经开始形成一股强大的力量。从“单点突破”到“系统化突围”,从“缺芯少魂”到“强芯铸魂”,中国汽车芯片产业的崛起,不仅关乎产业安全,更承载着中国汽车工业从“跟随者”向“引领者”转型的历史使命。“中国芯”正不断照亮智能汽车的道路,未来车用芯片产业前景值得期待。