高速互联 | CXL技术,打造异构计算新标杆

Compute Express Link (CXL)是业界支持的用于处理器、内存扩展和加速器的一种高速互连协议,旨在提供更高的数据吞吐量和更低的延迟,以满足现代计算和存储系统的需求。它最初由英特尔、AMD和其他公司联合推出,并得到了包括谷歌、微软等公司在内的大量支持。CXL目标是为了解决CPU和设备、设备和设备之间的内存鸿沟,服务器有巨大的内存池和数量庞大的基于PCIe运算加速器,每个上面都有很大的内存。内存的分割已经造成巨大的浪费、不便和性能下降。CXL就是为解决这个问题而诞生。 我们团队来自国内外顶级服务器、芯片及网络技术公司,正在用CXL技术实现Cache、DDR和HBM不同类型存储的池化,以及为GPU之间、机柜之间提供互联方案,帮助客户获得更高的吞吐量、更低的延迟、更便宜的成本、更好的资源共享。

信息技术

产业化

技术详情

一、团队背景:

  • 团队专注于高速互联算法+芯片+整体硬件方案设计,提供PCle/CXL交换算法、芯片、模块以及整体硬件系统
  • 已加入全球最大的硬件开源组织OCP联盟和全球最大开源软件社区Linux Foundation,并在其高速互联小组扮演重要角色。
  • 已与主流的GPU/CPU厂商通信运营商、互联网云厂商、部分高校和国家级重点实验室展开了深度合作
  • 团队来自Alibaba、Cisco、Marvell、ZTE、Didi、Hygon等国内外顶级服务器、芯片及网络技术公司,拥有丰富的分布式网络、HPC计算和系统架构设计经验,是国内少数在该领域具有产品定义、技术研发及量产落地的团队。

二、CXL简介

CXL有CXLio、CXLmemory和CXLcache三个协议:

  • CXLio就是原来的PCle,在CXL的建立连接、设备发现、配置等过程中发挥重要作用,链接建立后,CXLcache协议负责做cache一致性的工作,CXLcache和CXLmemory配合用来做内存共享。
  • CXL2.0规范在资源池化方面有所强化,同时,也还增加了CXLswitch功能,他可以在一个机架内通过一套CXL交换机构建成一个网络。
  • CXL3.0 新增了对二层交换机的支持,也就是Leafspine网络架构,如此便可以更好地对资源进行解耦和池化,做更多的资源池,比如CPU资源池、内存资源池、网卡资源池和加速器资源池等,Leaf与Spine之间通过Fabric manager软件构建各种拓扑和各种路由方式。

 

 

 

三、CXL演进

 

 

四、技术亮点:

  • 数据中心利用CXL做解耦和池化
  • CXL技术让不同的资源从紧耦合变成松耦合,让相同的资源变成池化资源
  • 各个资源池(CPU资源池、GPU资源池以及内存资源池)通过CXL连接
  • 作为本地总线的PCIE,延伸成为网络,引发新的变革

 

五、产品介绍:

       2024年Q3,成功研发了业界第一款CXL多级网络交换机(CXL Multi-level Networking Switch, 以下简称“CMNS”)参考设计。CMNS无需外部网卡或光模块即可实现机柜内或相邻机柜的网络互联,提供超低延时和超低成本的高性能网络,适用于集群资源扩展、高性能并行计算、AI加速、边缘计算,以及分布式存储等多个场景。

首款CXL多级网络交换机,IB时代的颠覆者

      2024年Q3,首创的CXL混合资源池(Compute Express Link Hybrid Resource Pool ,以下简称“CHRP”)参考设计。该参考设计是首个支持异构计算架构的CXL硬件设备,标志着CXL技术在数据中心领域迎来异构计算新阶段。基于FPGA与自主研发的CXL协议IP的先进特性,可实现CPU、GPU、DDR、SSD、FPGA等多类异构资源的系统性融合,为特定应用提供高效、灵活的加速平台。

 

微信客服
迈科技微信号

打开微信
“扫一扫”