随着人工智能(AI)从聊天机器人进化到推理和代理阶段，AI系统的瓶颈已从运算设备转向内存。SK海力士诊断认为，性能、能效以及资源利用问题都集中在内存上，成为AI系统的核心难题。超越HBM，缩短内存与运算设备之间的距离，实现多个加速器共享内存的“内存中心计算”将是AI扩展的下一个战场。

SK海力士系统架构负责人副总裁朱英表在2日于首尔中区The Plaza举行的第18届善良增长、良好就业全球论坛(2026 GGGF)上表示：“最近似乎是内存出现了问题，性能、能效和资源优化问题都摆在了内存面前。”他强调：“瓶颈所在即是计算的中心，目前的瓶颈是内存。”

推动内存需求上升的是AI服务的变化。传统聊天机器人只需与用户对话的速度，而代理AI则需要在AI之间进行对话，生成和执行代码，然后修复错误再进行操作。朱副总裁解释道：“与人对话时，每秒大约需要20个令牌，但机器之间对话时需要以数千的速度给出答案。”这表明系统性能的要求大幅提高。

SK海力士为应对这一挑战，确定了内存创新的方向，聚焦于性能、能效和资源利用三个方面。关键在于在固定面积内提高内存带宽，以及减少将数据一位传递到GPU、NPU、TPU等运算设备所需的能量。提高昂贵的GPU和内存的系统利用率也是一项重要任务。

HBM是推动这一变化的代表性案例。朱副总裁表示：“可以说，正是由于GPU的崛起，HBM才受到关注，但也正是因为有了像HBM这样的内存，GPU才能展现更好的性能。”他进一步解释，在代理AI时代，业界对现有HBM和GPU组合是否足够的思考愈发深入。

其中一个解决方案是进一步缩短内存与运算设备之间的距离。通过将DRAM以三维方式堆叠在处理器上方或下方，可以缩短数据移动的距离。PIM（处理内存）也是在内存内部或附近直接进行运算的类似思路。朱副总裁指出：“进行一次运算所需的能量远高于将数据从内存提取到运算设备的能量，移动距离越远，能效急剧下降。”不过，他也表示，3D堆叠仍面临发热和存储空间减少等技术挑战。

多个加速器共享内存的CXL也被提出作为解决方案。以往，GPU完成工作后，其他GPU需要等待准备接收数据，而共享内存则允许将数据存放，待下一个运算设备需要时再取用。SK海力士正在研究通过这一方式减少GPU间数据复制和同步过程中的浪费。朱副总裁表示，尽管CXL并非专为AI而生，但由于其开放内存接口的特性，AI系统的应用正在扩大。

对于AI算法的效率提升是否会直接导致内存需求减少的看法，朱副总裁表示了不同意见。他以汽车燃油效率提高但整体石油消费反而增加的“杰文斯悖论”为例，指出：“AI服务成本降低后，AI服务的使用量会增加。”这意味着，尽管算法优化可能减少个别服务的内存使用量，但如果整体AI需求增加，内存需求也可能随之上升。

朱副总裁总结道：“过去CPU是系统的瓶颈，提升CPU性能就能直接提高系统性能，而现在的瓶颈在于内存。”他强调：“提升内存性能和能效，将使AI系统变得更加优秀。”

※ 本报道经人工智能（AI）系统翻译与编辑。

• #内存
• #AI
• #SK海力士