金正浩:AI算力核心转向内存,HBF技术未来十年或成主流

金正浩教授指出,AI算力核心正从GPU转向内存,HBF技术有望在未来十年成为主流。内存能力决定AI性能,而HBS技术则是未来终极方案。

26效率工具AI算力内存技术HBFHBS

AI算力核心转向内存

被誉为“HBM之父”的韩国科学技术院教授金正浩在接受采访时指出,人工智能的核心竞争力正在从GPU转向内存。

内存能力决定AI性能

金正浩强调,AI的本质是内存。在AI推理过程中,数据需要从HBM读取并传输至GPU进行计算,再写回内存。这一过程导致GPU利用率远低于理论值。

“HBM之父”金正浩:AI算力核心正从GPU转向内存,未来十年HBF将成主流插图

HBF技术未来或成主流

金正浩预测,HBF技术将成为新主流,并在未来10年内市场需求超越HBM。而HBS技术则是未来终极方案,读写速度比DRAM快1000倍。

未来架构愿景

金正浩为未来的AI计算机描绘了一幅3D复合架构的蓝图,包括HBM、HBF和HBS三种形态,形成约100层规模的立体架构。