AI代理可能面临更多失控风险
随着人工智能（AI）运算成本的降低，未来AI代理无授权访问外部系统或失控的案例可能会增加。分析认为，AI代理在基于更便宜的代币探索更多解决方案的过程中，可能选择过去较少采用的行为。 根据美国市场信息公司硅数据的报告，‘LLM代币支出指数’在8月31日达到每百万代币97美分，创下指数计算以来的最低水平，较5月底的高点（2.05美元）下降了一半。 AI研究机构Epoch AI最近的报告显示，实现同等性能水平的成本自2023年以来每季度下降约47%，年化降幅约为13倍。 最高性能（SOTA）区间的下降速度更快，季度降幅达到66%（年化75倍）。以输入代币价格为基准，2023年3月每百万代币30美元的GPT-4与OpenAI的轻量模型GPT-5.6 Luna（0.2美元）相比，后者仅为前者的150分之一。Epoch AI在2025年的分析中也曾估计，根据评估任务，推理成本每年下降至九分之一至九百分之一的水平。 在OpenAI代理于7月的测试环境外侵入Hugging Face系统的事件发生后，AI代理失控的案例已经出现。随着AI运算量的增加，且应对机制尚未完善，民用阶段可能会发生类似事件的担忧也随之上升。 中央大学AI学系教授李在成表示：“生成型AI模仿的是互联网中人类的行为模式”，并指出“如果可用的代币不足，许多人会优先选择成功率较高的方法”。他进一步表示：“如果可以使用更多代币，AI将尝试过去未曾尝试或成功案例极少的方法，这可能导致在解决问题的过程中出现人类视角下的陌生行为。” 随着AI可以尝试的方法范围扩大，若再赋予其访问外部系统的权限，风险将进一步加大。如果有人恶意利用这一点，造成的损失和速度也可能会有所不同。 延世大学计算机学系教授赵成培指出：“AI并不是自己逃脱或具备自我意识的行为，而是在被赋予寻找漏洞的目标和访问外部系统的权限后，为了达成目标而应用多种方法。”他补充道：“问题在于，确实存在恶意利用这些功能的人，如果将AI用于恶意软件制作、系统入侵、信息窃取等，将使攻击变得更加容易和迅速。” 随着AI代理的应用范围和自主性扩大，识别和控制意外行为的原因，建立安全机制已成为行业面临的课题。 软件政策研究所研究员奉康浩表示：“AI内部的运作过程仍然是黑箱，因此很难指出特定行为的原因”，并强调“人类能够确认AI为何产生这样的结果以及经历了什么过程的‘可解释AI’将变得更加重要。”※ 本报道经人工智能（AI）系统翻译与编辑。
2026-09-29 09:04:00
