《AI infrastructure with co-packaged optics》

  • 来源专题:新一代信息技术
  • 编译者: 张嘉璐
  • 发布时间:2025-09-12
  •   全球领先的大规模人工智能工作负载共封装光学(CPO)技术开发商Ayar Labs与专用芯片设计企业智原科技(Alchip Technologies)宣布达成战略合作。双方将共同加速人工智能规模化基础设施发展,提供先进AI加速器与平台解决方案。通过整合Ayar Labs的CPO技术、智原科技的先进封装经验及台积电先进封装制程工艺,三方将构建加速光引擎量产与应用的技术生态。

      Ayar Labs联合创始人兼首席执行官马克·韦德表示:"我们的共封装光学技术通过突破铜互连限制,开启了人工智能基础设施的新纪元。将光学I/O创新与智原科技的先进封装专业能力相结合,正在构建推动行业向高能效、高性能AI系统转型的生态系统。"

      传统铜互连技术难以满足AI工作负载需求,此次合作将通过融合Ayar Labs光学I/O技术与智原科技高性能ASIC,解决传统性能瓶颈,实现多机柜级规模化系统架构。这将为大型系统和数据中心的扩展内存与计算资源提供高带宽、低延迟互联,显著提升交互性能并降低功耗。

      智原科技董事长兼首席执行官沈立贤指出:"当前及未来AI工作负载需要创新且高度协同的先进封装设计专业知识与量产解决方案。我们已向市场证明具备服务顶级超大规模客户的全套技术能力。与Ayar Labs合作将尖端光学I/O技术引入高性能新一代设计,助力超大规模企业实现数据吞吐量与能效的新突破。"

      依托台积电COWOS、SoIC等先进封装与硅工艺技术,合作双方将突破关键数据传输瓶颈,打造适用于下一代AI基础设施CPO应用的新型系统架构。Ayar Labs与智原科技表示,未来数周内将陆续披露关于合作细节及面向AI数据中心规模化的联合CPO解决方案。

  • 原文来源:https://www.newelectronics.co.uk/content/news/ayar-labs-and-alchip-to-scale-ai-infrastructure-with-co-packaged-optics
相关报告
  • 《美国Marvell公司推出用于定制AI加速器的突破性CPO架构》

    • 来源专题:集成电路与量子信息
    • 发布时间:2025-01-27
    • 据官网2025年1月6日报道,美国芯片公司Marvell(美满电子)宣布在定制AI加速器架构上取得突破,大幅提升服务器性能[1]。 最新定制化AI芯片构架整合了共封装光学(CPO)技术,通过使用高速SerDes、D2D接口和先进封装架构,将XPU计算模块、HBM内存和其它小芯片与其3D硅光子学引擎结合在同一基板上,实现了互联规模从单个机架内的数十个XPU到横跨多个机架的数百个XPU的拓展,大幅提升了服务器整体性能。这项创新构架让全球云端服务供应商(CSP)能开发更高频宽密度的定制化XPU,并已开始协助客户将CPO技术导入下一代定制化XPU。 2024年12月2日,Marvell宣布与亚马逊AWS签署五年合作协议,为亚马逊AWS提供多种类型云端AI芯片[2]。 [1] https://www.marvell.com/company/newsroom/marvell-co-packaged-optics-architecture-custom-ai-accelerators.html [2] https://www.marvell.com/company/newsroom/marvell-expands-strategic-collaboration-aws-enable-accelerated-infrastructure-ai-cloud.html
  • 《IBM发布光学技术关键突破,为未来AI发展铺平道路》

    • 来源专题:光电信息技术
    • 编译者:王靖娴
    • 发布时间:2024-12-12
    • 【内容概述】据光电汇报道,近日,IBM发布了其在光学技术方面的突破性研究成果,有望显著提高数据中心训练和运行生成式AI模型的效率。IB研究人员开发的新一代光电共封装 (co-packaged optics,CPO) 工艺,通过光学技术实现数据中心内部的光速连接,为现有的短距离光缆提供了有力补充。通过设计和组装首个宣布成功的聚合物光波导 (PWG),IBM研究人员展示了光电共封装技术将如何重新定义计算行业在芯片、电路板和服务器之间的高带宽数据传输。 IBM研究人员发现了一种将光学的速度和容量引入数据中心的新方法。这项技术可大幅提高数据中心的通信带宽,最大限度地减少GPU停机时间,同时大幅加快AI工作速度。该创新将实现以下新突破: 降低规模化应用生成式AI的成本;提高AI模型训练速度;大幅提高数据中心能效,在最新光电共封装技术的加持下,每训练一个AI模型所节省的电量,相当于5000个美国家庭的年耗电量总和。