
被韩媒誉为“HBM(高带宽内存)之父”的韩国会追韩国科学技术院(KAIST)电气与电子工程系教授金正浩,在近期接受《东亚日报》视频专访时深入剖析了HBM的教授I竞技术演进路径及AI硬件的性能瓶颈。他明确提出:“AI的争看中美本质就是内存。”
金正浩指出,内存过去业界往往将AI能力的赶上提升归因于模型算法的优化和GPU算力的堆叠。然而,韩国会追当大模型真正投入运行时,教授I竞无论是争看中美注意力机制的计算、上下文缓存的内存管理,还是赶上推理生成的过程,都高度依赖内存系统的韩国会追支撑。

HBM(High Bandwidth Memory,教授I竞高带宽内存)的争看中美核心原理是将多层DRAM芯片垂直堆叠。这种架构不仅大幅提升了存储容量,内存更通过海量并行通道显著提高了数据传输效率。赶上金正浩用通俗的比喻概括其核心优势——容量与带宽:“如果传统内存是8车道的高速公路,那么HBM就是拥有1024条甚至2048条车道的超级通道,未来甚至可能扩展至100万条车道。”
他进一步分析道,在大模型运行的每一个瞬间,都需要从HBM或HBF(高带宽闪存)中读取数据,完成计算后再写回。在这个过程中,数据的读写耗时占据了绝大部分时间,导致GPU经常处于“空转等待”状态。金正浩估算,即便部署100万块GPU,真正用于有效计算的时间可能仅占10%左右,其余时间均在等待数据到达。即便通过算法和调度进行极致优化,这一计算效率上限也很难突破30%。
基于此,金正浩认为,未来AI计算机的进化方向将是“计算靠近内存”,旨在减少数据的长距离搬运。他形象地比喻道:“这就像在公寓一楼安装GPU,数据坐电梯下来直接计算,整栋楼内部解决所有问题,从而省去奔波时间。”他透露,从HBM4开始,HBM已显现出“以内存为中心计算”的趋势,部分GPU功能和通信功能正被引入内存结构中。
沿着这一思路,金正浩描绘了HBM、HBF、HBS三阶段演进的路线图:
* HBM:堆叠DRAM,优势在于速度极快,但容量相对有限;
* HBF:堆叠NAND Flash,速度虽不及HBM,但容量巨大,更适合承载AI的长期记忆和冷数据;
* HBS:他提出的高带宽SRAM设想,旨在以更低延迟和更高速度支撑未来AI计算。
在金正浩构想的未来AI计算机架构中,系统将演变为约100层的三维复合结构:HBM如同百货商店,处理高速热数据;HBF如同公寓楼群,存储大容量冷数据;HBS承担超低延迟缓存任务;而GPU/CPU则位于顶层,主要负责散热。
过去,英伟达的强势地位建立在GPU对AI训练的绝对适配之上。但在推理时代,内存的重要性日益凸显。更关键的是,GPU面临发热高、需外部散热等物理限制,难以像DRAM或NAND那样进行大规模垂直堆叠。
金正浩特别提到,英伟达CEO黄仁勋近期频繁访问韩国,背后原因正是GPU技术遭遇瓶颈,成长几乎停滞。他认为,未来3D AI计算机的供电和散热能力将成为决定企业生死的核心竞争力。

需要指出的是,韩国作为全球存储产业的重镇,金正浩强调HBM、HBF乃至远期HBS的战略意义,也在主观上提升了韩国存储产业相对于GPU厂商的地位。他声称,韩国两大存储巨头凭借在DRAM堆叠和NAND技术上的深厚积累,有望在未来3D AI计算架构中占据核心位置。
然而,未来的AI硬件竞赛并非简单地从“GPU时代”切换至“内存时代”,而是进入更复杂的系统工程阶段。GPU、HBM、先进封装、网络互连、电力供应及散热能力,最终将共同决定AI基础设施的综合实力。
在访谈中,金正浩也坦诚提到了来自中国企业的追赶压力。
他指出,中国企业有能力填补三星、SK海力士等国际供应商产能不足的市场空白。此外,随着中国本土企业加速自研GPU、NPU或AI芯片,中国内存产业也将被同步带动。尽管金正浩认为韩国企业目前仍保持领先,但他明确表示,中国乃至美国企业终将在HBM、HBF领域实现追赶。
“对韩国厂商而言,这是一场关乎生存的长期竞争,唯有努力活到最后。”金正浩总结道。
本文系观察者网独家稿件,未经授权,不得转载。