随着推理模型的规模和复杂性的迅速崛起,使得在网络边缘和端点设备上部署强大硬件的需求越来越迫切。为了向这些推理处理器和加速器不断提供数据,需要最先进的内存解决方案, 以提供极高的带宽。David Kuo将详述GDDR6内存子系统设计和实施的考量,用以解决下一代推理引擎的带宽需求。
David KuoRambus销售总监随着推理模型的规模和复杂性的迅速崛起,使得在网络边缘和端点设备上部署强大硬件的需求越来越迫切。为了向这些推理处理器和加速器不断提供数据,需要最先进的内存解决方案, 以提供极高的带宽。David Kuo将详述GDDR6内存子系统设计和实施的考量,用以解决下一代推理引擎的带宽需求。 |