
SK电信(SKT)与Rebellion携手英伟达,共同构建韩国型主权AI基础设施。三方计划开发一种将GPU与神经网络处理器(NPU)联动的综合计算系统,以提高推理性能并大幅降低电力消耗。
科技部于9日在首尔COEX举行的“英伟达AI日”活动上宣布,三方签署了相关谅解备忘录(MOU)。此次合作是科技部与英伟达讨论的基于NV链接融合的国产NPU联动项目的一部分。
随着AI产业重心从模型开发转向推理,AI数据中心(AIDC)的电力效率和成本降低成为关键课题。因此,三方将采用“分离型推理”方式,将推理过程中的预处理(问题分析)与解码(答案生成)分别交给不同的半导体处理。
计算量大的预处理阶段由高性能的英伟达GPU负责,而顺序生成答案的解码阶段则由Rebellion的NPU负责,以最大化运算处理速度和电力效率。
SKT首席技术官郑锡根表示:“结合GPU与NPU的优势,验证韩国型主权AI基础设施在提高推理性能和电力效率方面的可能性具有重要意义。”
科技部也表示,将根据主权AI及国产AI半导体的培育政策,计划在公共与民间全面扩展基础设施生态系统。科技部信息通信政策室长李道圭强调:“我们将持续支持国产NPU企业挑战全球市场并取得成功的生态系统建设。”
※ 本报道经人工智能(AI)系统翻译与编辑。


