
英特尔推出高效异构AI系统:融合Gaudi3加速器与B200 GPU
英特尔在OCP全球峰会上展示了一款结合Gaudi3 AI加速器和B200 GPU的异构AI系统,该系统在Llama模型上实现了高达70%的性能提升,并采用高性能网络组件以实现更大扩展。
英特尔推出高效异构AI系统:融合Gaudi3加速器与B200 GPU
英特尔近日在2025 OCP全球峰会上展示了其最新研发的高效异构AI系统。该系统巧妙地结合了英特尔自家的Gaudi3 AI加速器与英伟达的B200 Tensor Core GPU,旨在提供更强大的AI计算能力。
在该系统中,B200 GPU负责AI模型的预填充和解码部分,而Gaudi3则专注于其他计算任务。这种异构计算架构在Llama开源模型上实现了高达70%的同TCO性能提升。

此外,该混合机架系统还采用了英伟达的ConnectX-7 400GbE NIC、BlueField-3 DPU和博通的Tomahawk 5 51.2Tb/s交换芯片,从而实现了更大的扩展域和更高的性能。