边缘计算与AI的需求在迅速变化

许多使用边缘计算的新服务都有低延迟需求，因此许多新系统都采用了最新的行业接口标准，包括PCIe 5.0、LPDDR5、DDR5、HBM2e、USB 3.2、CXL、基于PCIe的NVMe以及其他基于新一代标准的技术。与上一代产品相比，这些技术都通过改进带宽来降低延迟。

这些边缘计算系统还增加了AI加速功能。例如，某些服务器芯片通过x86扩展AVX-512向量神经网络指令 (AVX512 VNNI)等新指令提供AI加速。

除此之外，大多数新系统中还添加了自定义AI加速器。这些芯片所需的连接性通常采用带宽最高的主机来实现加速器连接。例如，在具有多个AI加速器的某种交换配置中，由于带宽要求影响了延迟，因此很多系统中采用了PCIe 5.0接口。

除了本地网关和聚合服务器系统之外，单个AI加速器通常无法提供足够的性能，所以需要借助带宽非常高的芯片到芯片SerDes PHY来扩展这些加速器。最新发布的PHY支持56G和112G连接。

AI算法正在突破内存带宽要求的极限。例如，最新的BERT和GPT-2型号分别需要345M和1.5B参数，为了满足这些需求，不仅需要高容量的内存能力，还需把许多复杂的应用放在边缘云中执行。为了实现这种能力，设计人员正在新的芯片组中采用DDR5。除了容量挑战之外，还需要存取AI算法的系数，以进行非线性序列中并行执行的大量多次累加计算。因此，HBM2e也成为一种被迅速采用的新技术，有些芯片实现了单芯片中的数次HBM2e实例化。

未来，边缘计算的需求将集中在降低延迟和功率，确保有足够的处理能力来处理特定任务上。新一代服务器SoC解决方案不仅将具有更低的延迟和更低的功耗，而且还将纳入AI功能，也就是AI加速器。

但是很明显，AI和边缘计算的需求也在迅速变化，我们今天看到的许多解决方案在过去两年中已多次取得了进步，并将继续加以改进。

（编辑：葫芦岛站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!