在当今基于 AI 的(de)(de)数(shu)据(ju)中心(xin)中，性能不理(li)想的(de)(de)原(yuan)因有很多。首先，AI 网络(luo)需要一致的(de)(de)端到(dao)端服务(wu)质量(liang)以(yi)(yi)(yi)保证无(wu)损传输(shu)。这意味(wei)着服务(wu)器中的(de)(de)网卡(ka)以(yi)(yi)(yi)及网络(luo)平(ping)台必须拥(yong)有统一的(de)(de)标记/映射、精确(que)的(de)(de)控(kong)制和拥(yong)塞(sai)(sai)通知（包括使用数(shu)据(ju)中心(xin)量(liang)化拥(yong)塞(sai)(sai)控(kong)制（DCQCN）的(de)(de)优先流控(kong)制（PFC）和显式拥(yong)塞(sai)(sai)通知（ECN））以(yi)(yi)(yi)及适当的(de)(de)缓冲区利(li)用率阈值，以(yi)(yi)(yi)使每个组件都能及时响应网络(luo)事件（如拥(yong)塞(sai)(sai)），确(que)保发(fa)送方能够精确(que)控(kong)制流量(liang)速率，避(bi)免(mian)丢包。然(ran)而，目前网卡(ka)和网络(luo)设备是(shi)分开配(pei)置的(de)(de)，在大型 AI 网络(luo)中，任何配(pei)置不匹配(pei)都极难调试。

性(xing)能(neng)不(bu)佳(jia)的(de)(de)(de)(de)一(yi)个常见原因是组(zu)件故障。服务器、GPU、网卡、收发(fa)(fa)器、电(dian)缆、交换机和路由器都(dou)可(ke)(ke)(ke)能(neng)出现(xian)(xian)故障，导(dao)(dao)致重传（go-back）或(huo)更糟(zao)糕的(de)(de)(de)(de)结果——可(ke)(ke)(ke)能(neng)使整个作业停滞，从(cong)而导(dao)(dao)致巨大(da)的(de)(de)(de)(de)性(xing)能(neng)损失。随着集群规模的(de)(de)(de)(de)扩大(da)，组(zu)件发(fa)(fa)生故障的(de)(de)(de)(de)可(ke)(ke)(ke)能(neng)性(xing)变得(de)越来越大(da)。传统上(shang)，GPU 供应商的(de)(de)(de)(de)集体通信库（CCL）会尝试使用定(ding)位技术来发(fa)(fa)现(xian)(xian)底层网络拓(tuo)(tuo)扑(pu)，但发(fa)(fa)现(xian)(xian)的(de)(de)(de)(de)拓(tuo)(tuo)扑(pu)与实(shi)际拓(tuo)(tuo)扑(pu)之间(jian)的(de)(de)(de)(de)差异可(ke)(ke)(ke)能(neng)会严(yan)重影(ying)响 AI 训练的(de)(de)(de)(de)作业完(wan)成时间(jian)。

AI 网络的(de)另一(yi)个问题(ti)是，大多数(shu)运营(ying)商都有单(dan)独的(de)团队来设(she)计和(he)(he)管理不同(tong)的(de)计算和(he)(he)网络基础设(she)施。这涉及(ji)使用不同(tong)的(de)编(bian)排系(xi)统进行配(pei)置、验证、监控(kong)和(he)(he)升级。缺乏单(dan)点控(kong)制和(he)(he)可见(jian)性使得(de)(de)识别和(he)(he)定位(wei)性能问题(ti)变得(de)(de)极其(qi)困(kun)难。随着 AI 集群规模的(de)扩大，这些(xie)问题(ti)会变得(de)(de)更加严重。

不(bu)难看(kan)出(chu)，这(zhei)些孤(gu)(gu)岛问题是如(ru)(ru)何不(bu)断(duan)加剧问题的(de)(de)严重性的(de)(de)。计(ji)算(suan)(suan)和(he)网(wang)(wang)络之间的(de)(de)分割会(hui)导致(zhi)将这(zhei)两(liang)项(xiang)技(ji)术结合起来以最(zui)大化(hua)性能的(de)(de)操(cao)作充(chong)满(man)挑战，同时(shi)延误诊断(duan)和(he)解决性能下降或宕(dang)机等问题。网(wang)(wang)络本(ben)身也可以分为基(ji)于以太网(wang)(wang)的(de)(de)数据中心(xin)网(wang)(wang)络和(he) InfiniBand 高性能计(ji)算(suan)(suan)（HPC）集群孤(gu)(gu)岛网(wang)(wang)络。这(zhei)反过来又可能造成孤(gu)(gu)岛间数据传(chuan)输(shu)的(de)(de)挑战，迫(po)使组织使用(yong)笨拙的(de)(de)网(wang)(wang)关，并造成计(ji)算(suan)(suan)和(he)存储到(dao)最(zui)终用(yong)户的(de)(de)连接障碍(ai)。只关注(zhu)某一技(ji)术（如(ru)(ru)计(ji)算(suan)(suan)）而忽(hu)(hu)视整(zheng)体解决方案的(de)(de)其他(ta)方面(mian)，会(hui)忽(hu)(hu)视技(ji)术之间相互依(yi)赖(lai)和(he)相互连接的(de)(de)本(ben)质(zhi)，如(ru)(ru)下图所(suo)示。