您当前的位置:首页 > 热点新闻

AI的本质是“内存”! HBM之父:GPU真正运算的时间只有10% HBF、HBS将接棒

韩国科学技术院(KAIST)电机工程系教授金正浩近日接受专访,针对HBM技术发展、AI算力格局与未来半导体架构提出系统性见解,其核心论点「AI 的本质是存储器,而不是GPU,」在科技与投资圈引发广泛讨论。…

韩国科学技术院(KAIST)电机工程系教授金正浩近日接受专访,针对HBM技术发展、AI算力格局与未来半导体架构提出系统性见解,其核心论点「AI 的本质是存储器,而不是GPU,」在科技与投资圈引发广泛讨论。

cover image of news article
AI的本质是「内存」! HBM之父:GPU真正运算的时间只有10%。 (图:Shutterstock)

金正浩早在 2010 年代初期便与 SK 海力士合作参与第一代 HBM 开发,此后主导了一系列底层架构研究,被业界尊称为「HBM 之父」。

金正浩在访谈中抛出一个令人震惊的数字:即便部署了 100 万台 GPU,真正在运算的时间恐怕只有 10%。

他解释,每当 ChatGPT 输出一个词,系统就必须从 HBM 读取资料、完成运算、再写回内存,「读写几乎占掉了全部时间,GPU 就在旁边闲等。」即使透过算法优化,GPU使用率也很难突破三成。

而这,正是他多年来反复主张的核心论点:「AI 等于内存。」

他对英伟达(NVDA-US)现状的评估也毫不保留。 金正浩指出,英伟达执行长黄仁勋近期频繁访韩、密集会见各方人士,「这么多会面背后,说明他并不安心。」

他直言,GPU的技术成长已近乎停滞,「AI 电脑的进化,掌握在内存手里。」

他进一步解释,GPU要提升效能只能扩大芯片面积、堆叠更多运算单元,但GPU发热量大,背面必须加装散热装置,因此无法像内存那样垂直堆叠,使「GPU 陷入死局。」

相较于过去以模型训练为核心的阶段,AI 产业正逐步迈入推论时代,记忆体的重要性也随之快速提升。

金正浩表示,在推论运算中,真正影响AI表现的关键,在于系统一次能处理与加载多少数据,而这项能力最终取决于内存技术。

HBM 两大关键:容量与带宽

金正浩将HBM的核心价值归纳为两个面向。

容量方面,随着情境工程、多模态输入与 AI 代理(AI Agent)的兴起,内存需求正以每年翻倍的速度增长,「10 年就是 1000 倍」。

传统靠缩小晶体管扩充容量的路线,如今已逼近量子力学的物理极限,垂直堆叠成为唯一出路。

带宽方面,他以公路作比喻:「传统内存若是8线道高速公路,HBM是1024线道,现在已达2048线道,几年后可能达到100万线道。」

换句话说,唯有通过大规模并行通道同步传输数据,才能跟上AI运算的速度需求。

下一步:闪存堆叠的 HBF 时代

HBM 解决了速度问题,但容量仍有天花板。 金正浩进一步阐述他认为的下一条技术路线 HBF(High Bandwidth Flash,高带宽闪存),也就是将 NAND 闪存比照 HBM 的方式垂直堆叠。

DRAM 速度快但容量有限; NAND 容量大、数据可长期保存,速度虽稍慢,但在推论场景中已足以应付「冷资料」的储存需求。

金正浩预判,未来HBM与HBF将形成共存格局,「就像百货公司周围有复式公寓、一般住宅,各种形态的HBM、HBF 组合在一起,构成复合体,向 GPU 供给资料。」

他明确预言:「现在是 HBM 的时代,但 10 年后,NAND 闪存与 HBF 的市场需求将超越 HBM。 三星与 SK 海力士必须为 HBF 时代做好准备。」

根据金正浩,目前投入HBF开发的企业包括SK海力士、SanDisk(SNDKV-US)、三星电子,以及日本的铠侠(Kioxia)。

值得注意的是,铠侠市值近期已超越丰田汽车,跃居日本股市第一。

更远的愿景:HBS与百层3D芯片大楼

金正浩还提出一个更尖端的构想 HBS(High Bandwidth SRAM)。

静态随机存取内存(SRAM)的速度比DRAM快约1000倍,但密度低、成本高,传统上只用于芯片内的小容量快取。

他的构想是,将整片12寸晶圆全数做成SRAM,再垂直堆叠12至16层,容量即可从100GB扩展至1600GB。

金正浩描绘的终极AI芯片形态,犹如一栋「100层3D大楼」:HBM、HBF、HBS各自构成多层建筑,GPU置于顶层负责散热,「这就是未来AI计算机不可避免的3D半导体架构。」

他同时坦言,最大的工程挑战不在运算,而在供电与散热。

金正浩指出:「要为 GPU 和堆叠内存提供数千安培的电,电力供应网路的设计将是最困难的技术,将成为企业间真正的核心竞争力。」

定制化 HBM 改写供需关系

金正浩也特别点出HBM4带来的产业结构转变。 过去,存储器是标准化商品,买方主导定价,库存风险由厂商承担,这正是「内存周期」的本质。

但从HBM4开始,由于需要针对英伟达、Google(GOOGL-US)、超微半导体(AMD-US)等客户的加速器架构量身设计,存储器厂商必须在研发之初就取得客户的采购承诺,才会启动开发,也就是所谓的「长期协议(LTA)」。

金正浩说:「AI 企业太需要高效能 HBM 了,所以他们排队上门。 供应方开始决定价格,这是典范的转移。」

他预期,未来 HBM 芯片内将整合通讯功能,实现内存之间的直接沟通,进一步强化内存厂商在整个 AI 供应链中的系统性地位。

三星、SK 海力士:全球唯二的「双栖」玩家

金正浩反复强调,全球能同时量产DRAM(HBM)与NAND快闪存储器(HBF)的企业,目前只有三星电子与SK海力士两家。

他指出:「Sandisk 和铠侠虽然股价飙涨,但只能做HBF,做不了HBM。 三星和 SK 海力士拥有引领未来最强大的工具。」

对于外界预测两家公司今年合计营业利润可达500兆至600兆韩元,金正浩直接回应:「是真的。」

不过,他也指出竞争压力真实存在,美光科技(MU-US)、Sandisk也都获得来自英伟达和Google的订单。

终端设备同步受惠,记忆体需求恐再暴增千倍

金正浩预测,AI PC要真正实现个人AI运算,单机售价恐达1000万韩元,其中存储器将是最主要的成本。

此外,AI智能手机售价中,存储器占比同样惊人。 300万至500万韩元的手机售价中,将有200万至300万韩元是存储器的价格。

展望更长远的未来,他认为随着 AI 代理与具身 AI(Physical AI)的到来,内存使用量将比现在高出约 1000 倍。

金正浩表示:「AI 代理 24 小时不间断运作,不像人类还需要睡眠,工作量暴增,内存需求自然跟着爆炸。 那时候不是 HBM,而是需要'超级 HBM'的时代了。」

金正浩于 1993 年取得博士学位,研究方向为飞秒(femtosecond)级超快电讯号量测,其指导教授数年前荣获诺贝尔物理学奖。

他于1994年加入三星电子内存事业部,1996年返回KAIST,此后深耕存储器与HBM基础研究近10年,才促成商业产品的诞生。

他在访谈末尾笑称,当初研发 HBM 时,想的是让电视画面更生动,完全没料到会成为 AI 时代的核心基础设施,「那时候不知道,这也可以说是运气。」

怕被外汇黑平台骗,推荐正规外汇平台:2026年正规外汇平台排名
标题:AI的本质是“内存”! HBM之父:GPU真正运算的时间只有10% HBF、HBS将接棒,收录于致富财经, 本文禁止任何商业性转载、分享,如需转载需联系小编并注明来源,部分内容整理自网络,如有侵权请联系删除。

免责声明

本网站所有刊登内容,以及所提供的信息资料,目的是为了更好地服务我们的访问者,本网站不保证所有信息、文本、图形、链接及其它项目的绝对准确性和完整性,网站没有任何盈利目的,故仅供访问者参照使用。本网站已尽力确保所有资料是准确、完整及最新的。就该资料的针对性、精确性以及特定用途的适合性而言,本网站不能作出最对应的方案。所以因依赖该资料所致的任何损失,本网均不负责。 除特别注明之服务条款外,其他一切因使用本站而引致的任何意外、疏忽、合约毁坏、隐秘汇漏、诽谤、版权或知识产权侵犯及其所造成的损失,本站概不负责,亦不承担任何法律责任。 如您(单位或个人)认为本网站某部分内容有侵权嫌疑,敬请立即通知我们,我们将在第一时间予以更改或删除。以上声明之解释权归致富财经网站所有。法律上有相关解释的,以中国法律之解释为基准。如有争议限在我方所在地司法部门解决。

为您推荐

返回顶部