코인정보

因内存不足而缓慢的AI,SK海力士为何专注于HBF

赵成俊 기자 2026-08-06 19:08
推理时代仅靠HBM容量有限 以NAND为基础的新层次瞄准成本效益
FMS 2026 SK海力士展览鸟瞰图
FMS 2026 SK海力士展览鸟瞰图 [照片=SK海力士]

SK海力士在‘FMS 2026’上展示的高带宽闪存(HBF)一旦商业化,将在人工智能(AI)加速器附近提供大容量读取内存池,从而使同一GPU能够处理更多问题,并降低电力和总拥有成本。

根据6日的半导体行业消息,业界对SK海力士的HBF战略评价为通过内存层次的重新配置来解决AI推理基础设施的瓶颈。这是因为它在提升HBM性能的竞争之外,采用在HBM和SSD之间插入新层次的方式。

HBF是基于NAND的内存,但与普通SSD不同。它将NAND以类似HBM的堆叠封装形式构建,并增强并行读取结构,靠近AI加速器。SK海力士和闪迪公布的规格显示,HBF的最大容量为512GB,带宽为0.4~3.0TB/s。

海外专家特别关注容量的改善。HBM虽然速度快,但搭载容量有限且价格昂贵。在大规模语言模型推理中,模型权重和KV缓存不断增大。随着用户的增加,同一GPU内需要存储和调用的数据也在增加。

IT专业媒体Tom's Hardware将HBF评估为AI推理的新内存层次,指出其能够在处理器附近提供经济上难以仅靠HBM提供的大容量内存池的优势。然而,它在延迟方面难以超越HBM。

这种局限性被分析为决定HBF用途的关键。HBM负责最需要快速访问的数据,而HBF则承担需要大容量的读取中心数据的辅助角色。因此,HBF预计将首先用于推理而非学习。

EE Times也认为HBF不是HBM的替代品,而是补充品。尽管在写入速度和耐用性上不如HBM,但其结构适合读取中心的推理任务。将AI模型放在HBF上,并将HBM作为高速缓存使用,可以以另一种方式降低内存壁垒。

SK海力士还具备业务协同效应。该公司不仅是HBM的强者,还拥有NAND业务。HBF是将这两个领域整合为一个AI基础设施解决方案的产品。这意味着可以在客户系统中扩大内存区域,而不仅仅是销售HBM时的占比。

金千成 SK海力士部门长在FMS 2026上表示:“随着AI应用的快速普及,整个数据处理结构的重新设计已成为必然。”这也是HBF被评估为重新划分内存与存储边界的技术原因。



※ 本报道经人工智能(AI)系统翻译与编辑。

《 亚洲日报 》 所有作品受版权保护,未经授权,禁止转载。