人工智能(AI)代币成本管理已成为企业面临的新挑战。与之前快速引入高性能AI模型不同,近期企业的竞争力逐渐转向如何提高AI成本的效率。
根据6月25日的信息技术(IT)行业消息,主要企业的IT基础设施部门正在积极构建AI财务运营(FinOps)体系,以可视化和控制云及AI成本。
这一变化源于对单纯依赖个人管理AI代币使用已难以应对成本上升的认识。员工在内部AI上重复进行无意义的工作,导致“代币挖矿”现象,管理协作过程中产生的意外费用变得尤为重要。
Nexon正在集团层面检查AI代币使用效率,并构建全公司及项目单位的成本预测模型,以基于历史使用数据评估新项目所需的代币规模和预算。
克拉夫顿在6月18日的Nexon开发者大会(NDC)上表示,已构建一个可以管理组织AI成本状况的仪表板,并计划根据组织的AI应用成熟度调整AI使用方式。
实务人员的AI模型使用方式也在发生变化。开发现场根据请求的难度和重要性选择合适的模型或进行自动分配的“混合模型(路由)”方式,成为一种成本节约手段。复杂的规划和推理工作分配给高端模型,而简单重复的工作或基础编码则使用相对便宜的模型处理。
以100万代币为基准,OpenAI的GPT-5输入单价为2.50美元,而DeepSeek V3.2的单价仅为0.14美元,降低了约94%。在输出单价方面,差距更为明显。因此,随着AI代理的使用增加,模型分配的重要性愈发突出。
使用Claude和Gemini两个模型的国内软件公司相关人士表示:“过去在所有工作中频繁使用昂贵的推理模型,但由于成本问题,最近根据工作难度使用不同的AI模型。”
AI模型API的购买结构也被视为成本管理的一种方式。企业不再单独合同和管理多个生成型AI模型,而是通过单一API集成服务来利用多种模型。对于使用量达到一定规模的企业而言,合同结构和运营方式对成本的影响愈加显著。
通过租用API的服务型模型(MaaS,Model as a Service)解决方案,企业可以通过单一API使用多种生成型AI模型。
作为技术节约手段,提示缓存也受到关注。当企业重复输入相同的指令、代码库说明、数据路径和文档结构时,输入代币成本会重复累积。通过临时保存重复的上下文和提示模式以便重用,可以减少不必要的运算。
业界认为,AI成本管理已扩展为企业运营能力的问题。随着高性能模型引入竞争的加剧,AI代理使用管理能力已成为企业AI使用的核心课题。业界人士表示:“随着企业AI的深入应用,模型性能、运营成本和管理便利性将成为重要的判断标准。”
※ 本报道经人工智能(AI)系统翻译与编辑。


