政府决定为“网络安全专用AI基础模型项目”和“全民AI项目”提供约256张图形处理单元(GPU)。与去年独立AI基础模型项目中每个精英团队至少支持1000张GPU相比,此次支持仅为四分之一,针对全国人民的免费AI聊天机器人建设面临局限性。
根据IT行业的消息,科学技术信息通信部和信息通信产业振兴院(NIPA)于上月29日发布了“全国人民AI服务普遍利用支持(全民AI)项目修订公告”和“网络安全专用AI基础模型开发修订公告”。
全民AI项目旨在为全国人民提供无限制、免费的AI聊天机器人,政府将投入其拥有的512张B200 GPU。如果选定的企业有两家,则每家256张;如果有三家,则第一家256张,第二和第三家各128张。
根据市场上B200的租赁单价(每月约660万元),256张的年价值约为2.02亿元,而全民AI项目整体将投入约4.05亿元的政府基础设施。
投入256张B200 GPU(32B级标准)10个月后,理论上可处理的代币规模约为62万亿个。政府官员表示,网络安全专用模型开发项目理论上可以实现初步学习及服务验证。
问题出在全民AI项目上。根据B200数据表,256张GPU的理论运算性能约为1152千万亿次浮点运算(PFLOPS),相较于256张H100约为2.3倍。
根据国内AI初创公司Allganize的H100实际使用基准换算,256张B200的实际同时处理上限仅为1万4000件。尽管根据引擎优化水平,同时处理上限可能会提高,但为全国人民提供AI免费聊天机器人在现实中仍然困难。
特别是如果政府的免费AI聊天机器人被特定用户过度使用,瓶颈现象将难以避免。
延世大学计算机科学系教授赵成培表示:“通过轻量化模型等方法,尽可能让更多用户使用全民AI是可行的,但现实中存在局限性。显然,这并不适合用于开发或研究。”他同时表示:“尽管资源不足,但进行这样的尝试本身是有意义的。”
与海外案例相比,国家层面的AI资金投入不足的问题也被提出。印度政府在印度AI使命中投入了1.7万亿韩元,确保了超过3.8万张GPU,并以低于市场价格的方式租赁给初创公司和研究机构等。
沙特阿拉伯主权财富基金(PIF)旗下的国有AI公司Humain计划在未来几年内部署60万张GPU。这些项目的目标超越了全国人民的免费聊天机器人,旨在为初创公司和研究机构提供计算租赁或数据中心出口。
政府今年在国家AI预算9.9万亿韩元中,投入了相当一部分用于数据中心扩建和GPU采购,但随着新项目的增加,分配给各个项目的GPU规模相对减少。全民AI项目计划在本月选定运营商,并在9月底进行测试服务,力争在年内正式推出。
※ 本报道经人工智能(AI)系统翻译与编辑。


