“现在是GPU的时代,但未来GPU将被整合到HBM和HBF中,GPU和CPU将沦为组件。”
被称为“高带宽内存(HBM)之父”的韩国科学技术院电气与电子工程系教授金正浩预测,AI半导体格局将发生根本性逆转,现有的以英伟达GPU为中心的模式将被内存为中心的结构所取代。
本报于16日在大田韩国科学技术院的Terra Lab独家采访了金教授。
“幻觉是内存不足所致……需要1000倍记忆力”金教授指出,当前AI市场正从“生成型AI”向“代理型AI”转变,内存瓶颈问题日益严重。
“AI正在从执行命令的‘生成型’转向自主判断并撰写最终报告的‘代理型AI’。在‘上下文工程’中,AI需要一次性处理大量文档和视频等数据,这需要内存带宽和容量分别增加1000倍。”
他还指出,AI的“幻觉现象”本质上也是内存问题。“由于内存不足,AI只能回答已知问题,导致幻觉现象。要成为能够完美回答任何问题的代理,AI需要成为记忆力天才。”
HBM是“参考书”,HBF是“图书馆”目前主导AI加速器市场的HBM是通过垂直堆叠DRAM来最大化速度的内存。但金教授认为,仅靠HBM无法满足代理型AI时代的需求,他提出的下一代解决方案是高带宽闪存(HBF)。
“HBM是为了快速回答而放在桌子旁的浅参考书,即短期记忆。而HBF则是通过堆叠NAND闪存来大幅增加容量的巨大书架,即长期记忆。AI要在全球数据中找到完美答案,必须依赖图书馆般的HBF层次结构。”

企业间的竞争已经非常激烈。SK海力士今年2月与美国SanDisk合作成立了HBF标准化联盟,抢占了生态系统的先机。三星电子则在专注于下一代HBM4E的同时,也在投资符合HBF概念的NAND架构。
金教授认为,这种格局与2010年代HBM初期如出一辙。“在2010年代HBM萌芽期,SK海力士积极投资成为第一,而三星则因质疑产品的高价而放慢投资速度,遭遇了后果。10年后,哪家公司能取得最大增长,将由HBM和HBF决定,最终HBF将决定胜负。如果现在不连续投资基础设施和研发,三星和SK海力士都可能面临风险。”
他预计HBF工程样品将在2027年问世,最早在2028年,谷歌、英伟达或AMD中的一家将正式采用它。
“GPU将沦为组件……内存成为中心”金教授在采访中最强烈的观点是计算范式的根本逆转。他预测AI时代的最终赢家将是内存而非GPU。
“现在GPU或CPU是计算的中心。但未来,拥有巨大容量的HBM和HBF将成为中心,GPU反而会被整合到其中,‘内存中心计算’时代将到来。GPU和CPU将沦为组件,而HBF将成为引领这一范式的基础。”
他还解释说,埃隆·马斯克最近宣布建设涵盖封装、内存和代工的大型工厂,也是因为看到了这一内存中心的变化。“马斯克之所以宣布建造这个大型工厂,是因为他洞察到了内存中心的变化。”
在英伟达GPU霸权被视为理所当然的今天,金教授断言,10年后半导体产业的重心将完全转移。现在正是决定主导还是追随的关键时刻。

※ 本报道经人工智能(AI)系统翻译与编辑。


