韩国科学技术院(KAIST)电机工程系教授金正浩近日接受专访,针对HBM技术发展、AI算力格局与未来半导体架构提出系统性见解,其核心论点「AI 的本质是存储器,而不是GPU,」在科技与投资圈引发广泛讨论。
金正浩早在 2010 年代初期便与 SK 海力士合作参与第一代 HBM 开发,此后主导了一系列底层架构研究,被业界尊称为「HBM 之父」。
金正浩在访谈中抛出一个令人震惊的数字:即便部署了 100 万台 GPU,真正在运算的时间恐怕只有 10%。
他解释,每当 ChatGPT 输出一个词,系统就必须从 HBM 读取资料、完成运算、再写回内存,「读写几乎占掉了全部时间,GPU 就在旁边闲等。」即使透过算法优化,GPU使用率也很难突破三成。
而这,正是他多年来反复主张的核心论点:「AI 等于内存。」
他对英伟达(NVDA-US)现状的评估也毫不保留。 金正浩指出,英伟达执行长黄仁勋近期频繁访韩、密集会见各方人士,「这么多会面背后,说明他并不安心。」
他直言,GPU的技术成长已近乎停滞,「AI 电脑的进化,掌握在内存手里。」
他进一步解释,GPU要提升效能只能扩大芯片面积、堆叠更多运算单元,但GPU发热量大,背面必须加装散热装置,因此无法像内存那样垂直堆叠,使「GPU 陷入死局。」
相较于过去以模型训练为核心的阶段,AI 产业正逐步迈入推论时代,记忆体的重要性也随之快速提升。
金正浩表示,在推论运算中,真正影响AI表现的关键,在于系统一次能处理与加载多少数据,而这项能力最终取决于内存技术。
HBM 两大关键:容量与带宽
金正浩将HBM的核心价值归纳为两个面向。
容量方面,随着情境工程、多模态输入与 AI 代理(AI Agent)的兴起,内存需求正以每年翻倍的速度增长,「10 年就是 1000 倍」。
传统靠缩小晶体管扩充容量的路线,如今已逼近量子力学的物理极限,垂直堆叠成为唯一出路。
带宽方面,他以公路作比喻:「传统内存若是8线道高速公路,HBM是1024线道,现在已达2048线道,几年后可能达到100万线道。」
换句话说,唯有通过大规模并行通道同步传输数据,才能跟上AI运算的速度需求。
下一步:闪存堆叠的 HBF 时代
HBM 解决了速度问题,但容量仍有天花板。 金正浩进一步阐述他认为的下一条技术路线 HBF(High Bandwidth Flash,高带宽闪存),也就是将 NAND 闪存比照 HBM 的方式垂直堆叠。
DRAM 速度快但容量有限; NAND 容量大、数据可长期保存,速度虽稍慢,但在推论场景中已足以应付「冷资料」的储存需求。
金正浩预判,未来HBM与HBF将形成共存格局,「就像百货公司周围有复式公寓、一般住宅,各种形态的HBM、HBF 组合在一起,构成复合体,向 GPU 供给资料。」
他明确预言:「现在是 HBM 的时代,但 10 年后,NAND 闪存与 HBF 的市场需求将超越 HBM。 三星与 SK 海力士必须为 HBF 时代做好准备。」
根据金正浩,目前投入HBF开发的企业包括SK海力士、SanDisk(SNDKV-US)、三星电子,以及日本的铠侠(Kioxia)。
值得注意的是,铠侠市值近期已超越丰田汽车,跃居日本股市第一。
更远的愿景:HBS与百层3D芯片大楼
金正浩还提出一个更尖端的构想 HBS(High Bandwidth SRAM)。
静态随机存取内存(SRAM)的速度比DRAM快约1000倍,但密度低、成本高,传统上只用于芯片内的小容量快取。
他的构想是,将整片12寸晶圆全数做成SRAM,再垂直堆叠12至16层,容量即可从100GB扩展至1600GB。
金正浩描绘的终极AI芯片形态,犹如一栋「100层3D大楼」:HBM、HBF、HBS各自构成多层建筑,GPU置于顶层负责散热,「这就是未来AI计算机不可避免的3D半导体架构。」
他同时坦言,最大的工程挑战不在运算,而在供电与散热。
金正浩指出:「要为 GPU 和堆叠内存提供数千安培的电,电力供应网路的设计将是最困难的技术,将成为企业间真正的核心竞争力。」
定制化 HBM 改写供需关系
金正浩也特别点出HBM4带来的产业结构转变。 过去,存储器是标准化商品,买方主导定价,库存风险由厂商承担,这正是「内存周期」的本质。
但从HBM4开始,由于需要针对英伟达、Google(GOOGL-US)、超微半导体(AMD-US)等客户的加速器架构量身设计,存储器厂商必须在研发之初就取得客户的采购承诺,才会启动开发,也就是所谓的「长期协议(LTA)」。
金正浩说:「AI 企业太需要高效能 HBM 了,所以他们排队上门。 供应方开始决定价格,这是典范的转移。」
他预期,未来 HBM 芯片内将整合通讯功能,实现内存之间的直接沟通,进一步强化内存厂商在整个 AI 供应链中的系统性地位。
三星、SK 海力士:全球唯二的「双栖」玩家
金正浩反复强调,全球能同时量产DRAM(HBM)与NAND快闪存储器(HBF)的企业,目前只有三星电子与SK海力士两家。
他指出:「Sandisk 和铠侠虽然股价飙涨,但只能做HBF,做不了HBM。 三星和 SK 海力士拥有引领未来最强大的工具。」
对于外界预测两家公司今年合计营业利润可达500兆至600兆韩元,金正浩直接回应:「是真的。」
不过,他也指出竞争压力真实存在,美光科技(MU-US)、Sandisk也都获得来自英伟达和Google的订单。
终端设备同步受惠,记忆体需求恐再暴增千倍
金正浩预测,AI PC要真正实现个人AI运算,单机售价恐达1000万韩元,其中存储器将是最主要的成本。
此外,AI智能手机售价中,存储器占比同样惊人。 300万至500万韩元的手机售价中,将有200万至300万韩元是存储器的价格。
展望更长远的未来,他认为随着 AI 代理与具身 AI(Physical AI)的到来,内存使用量将比现在高出约 1000 倍。
金正浩表示:「AI 代理 24 小时不间断运作,不像人类还需要睡眠,工作量暴增,内存需求自然跟着爆炸。 那时候不是 HBM,而是需要'超级 HBM'的时代了。」
金正浩于 1993 年取得博士学位,研究方向为飞秒(femtosecond)级超快电讯号量测,其指导教授数年前荣获诺贝尔物理学奖。
他于1994年加入三星电子内存事业部,1996年返回KAIST,此后深耕存储器与HBM基础研究近10年,才促成商业产品的诞生。
他在访谈末尾笑称,当初研发 HBM 时,想的是让电视画面更生动,完全没料到会成为 AI 时代的核心基础设施,「那时候不知道,这也可以说是运气。」













