(来源:美刀哥)
AI的本质是内存,不是GPU!厉害啊,怎么会有如此炸裂的理解啊!?这绝对是一次改变你未来十年投资,和工作方向的判断。
判断来自“HBM之父”金正浩教授的最新访谈,他预判了一种100层的3D芯片大厦,将彻底重写AI算力的权力结构。他说了一句话,值得所有关注AI的人记住:AI的本质是内存,不是GPU。

金正浩是韩国科学技术院电气工程系教授,被业界称为“HBM之父”。2010年代初期,他便与SK海力士合作参与HBM1的开发,此后主导了一系列HBM底层架构研究。1993年获得博士学位,1994年加入三星电子内存事业部,1996年回到KAIST任教授,此后持续深耕内存与HBM基础研究10年,才形成商业产品。如今HBM成为AI算力的核心组件,他的判断正在被市场验证。
就在最近一次访谈中他给出了一个颠覆性的判断——进入推理时代后,内存比GPU更重要。他甚至说,谷歌Gemini、OpenAI、Anthropic Claude谁更强,是由内存决定的。

先看一个数据。金正浩认为即使装100万个GPU,真正工作的时间也只有10%到20%。为什么?因为每次计算都需要从HBM读取数据、计算完再写回内存,GPU大部分时间在“干等”。
这就是他多年坚持的核心论断的现实依据:AI等于内存。训练时代拼的是算力,推理时代拼的是能往AI里塞多少数据,而决定这一点的半导体是内存。
但HBM不是简单的“把内存堆起来”。它解决了两个核心问题:容量和带宽。容量方面,上下文工程、多模态输入、智能体 AI让内存需求每年翻倍,10年就是1000倍。传统方式靠缩小晶体管来增容,但如今已逼近量子力学边界,几乎无法继续缩小,必须靠堆叠。带宽方面,金正浩打了个比方——传统内存是8车道高速路,HBM是1024车道,现在是2048车道,几年后可能达到100万车道。
GPU却遇到了瓶颈。他判断,GPU的技术性成长已经快停了。要提高性能,只能扩大芯片面积、堆更多计算单元。但GPU太热,必须在背面装散热装置,因此无法像内存一样垂直堆叠。他称之为“外通死局”。甚至提到,黄仁勋频繁访问韩国、上电视、参加综艺、吃炸鸡喝啤酒,“这么多会面背后,说明他不安心”。相比之下,从训练时代转向推理时代,内存的重要性正在被重新定价,AI计算机的进化掌握在内存手里。而未来内存的演进将沿着三条技术路线展开。
第一条是HBM,当前主线,速度快但容量有限。
第二条是HBF,把NAND闪存像HBM一样垂直堆叠。容量是DRAM的10倍,速度虽然慢一些,但在推理场景中足够满足“冷数据”存储需求。金正浩预判:10年后HBF的市场需求将超过HBM。
第三条是HBS,更前沿的概念——把整张12英寸晶圆全部做成SRAM,再垂直堆叠16层,容量可从100GB扩展到1600GB,速度比DRAM快1000倍。
他的终极设想是:HBM、HBF、HBS各自构成多层建筑,GPU放在最顶层负责散热,形成一栋“百层3D大楼”。他描述的未来AI芯片形态是一栋“100层3D大楼”——HBM、HBF、HBS各自构成多层建筑,GPU放在顶层负责散热冷却。“这就是未来AI计算机不可避免的3D半导体结构。”
但最大的工程挑战不是制程,不是良率。是供电和散热。需要供应数千安培的电流,电力供应网络的设计将是最困难的技术。谁能在供电和冷却上领先,谁就能在AI半导体时代生存。
金正浩在访谈中反复强调,全球能同时量产DRAM(HBM)和NAND闪存(HBF)的公司只有三星电子和SK海力士。闪迪和铠侠股价再高,也只能做HBF,做不了HBM。他认为三星和SK海力士拥有引领未来的最强大工具。当被问及三星与SK海力士今年合计营业利润600万亿韩元的预测是否现实,他回答:“现实的。”

从HBM4开始,商业模式也在逆转。过去内存是标准品,客户决定买多少,库存风险由内存厂商承担,这叫“内存周期”。但定制HBM改变了这一切——每家客户的加速器架构不同,对HBM的设计要求也不同,内存厂商必须在研发初期就拿到客户的数量承诺才会启动开发。现在是AI企业排队求购高性能HBM,变成了卖方市场。供方开始决定价格,这是范式转变。
金正浩还预判,Agentic AI时代到来后,AI代理24小时工作,不像人类要睡觉,工作量暴增,内存使用量将比现在高出1000倍。到那时,需要的是“超级HBM”时代。
AI不是GPU的独角戏。训练时代,GPU是主角;推理时代,内存正在夺回话语权。当HBM、HBF、HBS组成百层大楼,GPU被放在最顶层散热的时候,整个AI算力的权力结构,就会被彻底重写。
相关推荐
HBM之父金正浩:AI的本质是内存,不是GPU!
存储黑科技来了!SK海力士发表HBM、HBF联用架构 每瓦性能可提高2.69倍
AI国力战争:GPU是明线,HBM是暗线
干掉HBM?
HBM,要崩盘?
Sandisk新专利曝光:将NAND堆叠于GPU之下,破解AI内存墙
狂奔的AI,撞上“内存墙”
AI 芯片需求激增,HBM 内存价格暴涨 500%
HBM,新混战!
HBM供应紧缺,AMD推出首款封装LPDDR5X内存SoC!
网址: HBM之父金正浩:AI的本质是内存,不是GPU! https://m.xishuta.cn/newsview151293.html