被韩媒誉为“HBM（高带宽内存）之父”的韩国会追韩国科学技术院（KAIST）电气与电子工程系教授金正浩，在近期接受《东亚日报》视频专访时深入剖析了HBM的教授I竞技术演进路径及AI硬件的性能瓶颈。他明确提出：“AI的争看中美本质就是内存。”

金正浩指出，内存过去业界往往将AI能力的赶上提升归因于模型算法的优化和GPU算力的堆叠。然而，韩国会追当大模型真正投入运行时，教授I竞无论是争看中美注意力机制的计算、上下文缓存的内存管理，还是赶上推理生成的过程，都高度依赖内存系统的韩国会追支撑。

HBM（High Bandwidth Memory，教授I竞高带宽内存）的争看中美核心原理是将多层DRAM芯片垂直堆叠。这种架构不仅大幅提升了存储容量，内存更通过海量并行通道显著提高了数据传输效率。赶上金正浩用通俗的比喻概括其核心优势——容量与带宽：“如果传统内存是8车道的高速公路，那么HBM就是拥有1024条甚至2048条车道的超级通道，未来甚至可能扩展至100万条车道。”

他进一步分析道，在大模型运行的每一个瞬间，都需要从HBM或HBF（高带宽闪存）中读取数据，完成计算后再写回。在这个过程中，数据的读写耗时占据了绝大部分时间，导致GPU经常处于“空转等待”状态。金正浩估算，即便部署100万块GPU，真正用于有效计算的时间可能仅占10%左右，其余时间均在等待数据到达。即便通过算法和调度进行极致优化，这一计算效率上限也很难突破30%。

基于此，金正浩认为，未来AI计算机的进化方向将是“计算靠近内存”，旨在减少数据的长距离搬运。他形象地比喻道：“这就像在公寓一楼安装GPU，数据坐电梯下来直接计算，整栋楼内部解决所有问题，从而省去奔波时间。”他透露，从HBM4开始，HBM已显现出“以内存为中心计算”的趋势，部分GPU功能和通信功能正被引入内存结构中。

沿着这一思路，金正浩描绘了HBM、HBF、HBS三阶段演进的路线图：
* HBM：堆叠DRAM，优势在于速度极快，但容量相对有限；
* HBF：堆叠NAND Flash，速度虽不及HBM，但容量巨大，更适合承载AI的长期记忆和冷数据；
* HBS：他提出的高带宽SRAM设想，旨在以更低延迟和更高速度支撑未来AI计算。

在金正浩构想的未来AI计算机架构中，系统将演变为约100层的三维复合结构：HBM如同百货商店，处理高速热数据；HBF如同公寓楼群，存储大容量冷数据；HBS承担超低延迟缓存任务；而GPU/CPU则位于顶层，主要负责散热。

过去，英伟达的强势地位建立在GPU对AI训练的绝对适配之上。但在推理时代，内存的重要性日益凸显。更关键的是，GPU面临发热高、需外部散热等物理限制，难以像DRAM或NAND那样进行大规模垂直堆叠。

金正浩特别提到，英伟达CEO黄仁勋近期频繁访问韩国，背后原因正是GPU技术遭遇瓶颈，成长几乎停滞。他认为，未来3D AI计算机的供电和散热能力将成为决定企业生死的核心竞争力。

需要指出的是，韩国作为全球存储产业的重镇，金正浩强调HBM、HBF乃至远期HBS的战略意义，也在主观上提升了韩国存储产业相对于GPU厂商的地位。他声称，韩国两大存储巨头凭借在DRAM堆叠和NAND技术上的深厚积累，有望在未来3D AI计算架构中占据核心位置。

然而，未来的AI硬件竞赛并非简单地从“GPU时代”切换至“内存时代”，而是进入更复杂的系统工程阶段。GPU、HBM、先进封装、网络互连、电力供应及散热能力，最终将共同决定AI基础设施的综合实力。

在访谈中，金正浩也坦诚提到了来自中国企业的追赶压力。

他指出，中国企业有能力填补三星、SK海力士等国际供应商产能不足的市场空白。此外，随着中国本土企业加速自研GPU、NPU或AI芯片，中国内存产业也将被同步带动。尽管金正浩认为韩国企业目前仍保持领先，但他明确表示，中国乃至美国企业终将在HBM、HBF领域实现追赶。

“对韩国厂商而言，这是一场关乎生存的长期竞争，唯有努力活到最后。”金正浩总结道。

本文系观察者网独家稿件，未经授权，不得转载。

(责任编辑：焦点)