随着AI代理在企业中的广泛应用,意想不到的后果随之而来。代理特有的代币过度消费结构使得AI引入成本急剧上升,员工为了提高公司内部AI使用指标而反复执行无意义的工作,形成了所谓的‘代币滥用’现象,这让企业面临更大的困扰。
根据5月29日微软(MS)研究与斯坦福大学联合发布的论文,代理编程任务的代币消耗量相比普通聊天机器人高达1000倍。
即使是简单的AI外部系统操作工具,代币消耗量也比普通聊天高出5到30倍。重复执行相同任务时,代币使用量的差异可达30倍,导致成本预测几乎变得不可能。
论文特别指出,“代币消耗越多并不意味着准确度就越高”。在中等成本区间,准确度达到顶峰后进入饱和状态的模式得到了确认。
除了代币成本问题,组织文化的副作用也逐渐显现。亚马逊要求80%以上的开发者每周使用AI,并运营内部代币消费排行榜,导致员工为了提高分数而在公司AI代理平台上反复执行不必要的工作,形成了代币滥用现象。
因此,亚马逊采取了限制排行榜可见性的措施。Meta也出现了类似现象。在针对约8.5万名员工的内部排行榜中,30天内的总代币消费量超过了60万亿个。
代币成本的暴涨可能对中国AI行业产生反向利益。DeepSeek V3.2的API单价为每100万个输入代币0.14美元,相比GPT-5的2.50美元便宜约94%。
按输出代币计算,DeepSeek的0.28美元与GPT-5的15美元差距更大。随着代币消费量的增加,单价差异对实际成本的影响也在加大,因此急需降低成本的企业可能会考虑采用中国的模型。
代币使用量本身也在急剧增加。投资公司Alger分析OpenRouter平台数据发现,截至去年12月,周代币使用量在过去12个月内增长了3800%以上,自2025年1月起增长速度显著加快。平均提示长度从2024年初的约1500个代币增加到约6000个代币,增长了4倍。
※ 本报道经人工智能(AI)系统翻译与编辑。


