英特尔推出高效异构AI系统:融合Gaudi3加速器与B200 GPU

英特尔在OCP全球峰会上展示了一款结合Gaudi3 AI加速器和B200 GPU的异构AI系统,该系统在Llama模型上实现了高达70%的性能提升,并采用高性能网络组件以实现更大扩展。

6效率工具英特尔AI系统Gaudi3B200 GPU异构计算

英特尔推出高效异构AI系统:融合Gaudi3加速器与B200 GPU

英特尔近日在2025 OCP全球峰会上展示了其最新研发的高效异构AI系统。该系统巧妙地结合了英特尔自家的Gaudi3 AI加速器与英伟达的B200 Tensor Core GPU,旨在提供更强大的AI计算能力。

在该系统中,B200 GPU负责AI模型的预填充和解码部分,而Gaudi3则专注于其他计算任务。这种异构计算架构在Llama开源模型上实现了高达70%的同TCO性能提升。

英特尔打造高效异构 AI 系统:结合自家 Gaudi3 AI 加速器与英伟达 B200 GPU插图

此外,该混合机架系统还采用了英伟达的ConnectX-7 400GbE NIC、BlueField-3 DPU和博通的Tomahawk 5 51.2Tb/s交换芯片,从而实现了更大的扩展域和更高的性能。