人工智能（AI）如果给出错误答案，可以再次询问。然而，如果AI因错误判断而转账或交易股票，情况就大不相同。错误可以纠正，但已经转动的资金可能难以追回。随着AI从回答人类问题的时代进入自主判断和行动的阶段，新风险随之而来。 最近，全球AI行业对此变化的警告不断增加。AI在多大程度上能够准确执行人类指令，与其在既定权限和范围内进行控制的能力同样成为新的课题。因为在实现特定目标的过程中，AI可能会采取意想不到的行动或超出允许的权限。随着技术的高度发展，控制这些技术的人类能力也必须相应提升。 金融行业无疑是对这些变化最为敏感的行业。金融本质上是一个移动资金和管理风险的行业。小的判断错误可能导致巨大的金钱损失，一家金融公司的事故可能蔓延至其他公司和整个金融市场。虽然AI是提升金融效率的强大工具，但同时也可能带来前所未有的风险。 超越判断的行动AI…金融风险也发生了变化 实际上，AI正在迅速改变金融行业的面貌。银行的贷款审核、客户咨询、保险公司的理赔审核、证券公司的投资信息分析和资产管理等应用领域正在不断扩大。快速分析海量数据并能审查远超人类的变量，这无疑是显著的竞争优势。金融公司可以降低成本，提高工作效率，而消费者则能享受到更快速、更精细的服务。 此外，AI代理的出现预示着另一种变化。过去，AI主要负责信息分析和判断辅助，而未来则朝着连接多个系统并直接执行复杂工作的方向发展。这包括分析客户的财务状况，寻找合适的产品，调整投资组合，甚至执行资金转移。这是从辅助人类判断的技术向替代人类行为的技术的转变。 问题在于，随着AI活动范围的扩大，风险的性质也在变化。错误推荐贷款产品和实际批准错误贷款是两个不同的问题。提供不准确的投资信息与因错误判断直接进行交易同样是不同层面的风险。前者给人类提供了审查和修正的机会，而后者的判断则可能直接导致金钱损失。这也是为何不能将金融AI的发展仅视为简单的工作自动化延续的原因。 最近，国内金融界发生的一系列黑客事件也展示了AI时代的新风险。多家金融公司遭到攻击，客户信息被泄露，攻击过程中还可能使用了AI自动化工具。利用AI，攻击者能够比以往更快地探索系统并发现漏洞，这给现有的安全体系带来了新的压力。 然而，不能将此次事件的原因仅归咎于AI技术本身的风险。攻击者最终瞄准的是金融公司未能妥善管理的认证程序和安全漏洞。AI虽然可以加快攻击的速度和范围，但使攻击成为可能的却是现有安全体系的漏洞。为了应对新技术的威胁，基本的安全和内部控制必须有效运作，这是我们应吸取的教训。 除了外部的AI攻击，金融公司内部也存在需要警惕的风险。金融公司直接引入的AI可能超出控制范围。黑客是外部入侵者的问题，而金融公司使用的AI从一开始就可能被赋予访问内部系统的权限。如果在查询客户信息和处理交易的过程中，AI超出了允许的范围或做出了错误判断，那么仅靠外部防火墙无法解决问题。 迄今为止，金融公司的内部控制主要是基于人类行为设计的。每位员工都有不同的权限，重要交易设有审批程序，发生事故时追究责任。然而，在AI连续执行多项工作的环境下，这种角色分工和审批程序是否足够，需要重新审视。必须明确AI被赋予何种权限，以及允许多大程度的自主性。 责任归属也是一个重要课题。如果金融公司引入外部AI模型进行工作时发生事故，开发公司可能会声称没有技术缺陷，而金融公司则可能指责AI的意外判断。那么在责任争论持续的过程中，损害赔偿可能会延迟。AI并不是一个能够承担法律责任或赔偿损失的独立主体。无论技术如何发展，管理客户资产的金融公司的责任都不应模糊。 AI判断过程难以解释的“黑箱”问题同样与消费者保护息息相关。被拒绝贷款的客户，金融公司必须能够提供合理的解释。然而，如果AI基于复杂数据得出结论，而金融公司甚至无法清楚解释判断依据，那么消费者的权利保护将变得困难。因此，除了提高技术的准确性外，还需要建立对判断过程和结果负责的体系。 个别金融机构的合理选择，市场整体却面临风险 这些风险不仅限于个别金融公司，还可能扩散至整个金融市场。如果多家金融公司使用相似的AI模型和数据进行投资和风险评估，在危机情况下，它们可能会对相同信号做出反应，导致同时抛售资产或缩减贷款。个别公司的合理判断可能导致金融系统整体出现信用紧缩和波动性加剧的悖论。当金融公司的风险规避行为集中发生时，各自的安全选择可能会加剧市场整体的不安。 尤其是AI的判断和交易执行速度越快，人类介入的余地就越小。在经历过算法交易和高频交易的金融市场中，自主AI代理的结合可能会加速风险的扩散。人们在危机发生后再去理解和处理情况的传统方式是否足够，值得怀疑。 国际金融机构也将AI视为金融稳定的主要风险因素。金融稳定委员会（FSB）在6月发布了金融公司负责任引入AI的12项最佳实践建议。英格兰银行也将金融公司的核心决策、金融市场、外部AI服务供应商和网络威胁视为AI相关的主要风险路径。AI已不再仅仅是提高工作效率的工具，而是成为金融系统层面需要管理的课题。 尤其是对少数全球技术公司和云服务的高度依赖，可能导致新的集中风险。尽管个别金融公司运营着不同的产品和系统，但核心AI技术可能依赖于少数公司的模型和服务。如果某个AI服务出现故障或发现共同缺陷，多个金融公司可能会同时受到影响。AI在有效连接金融的同时，也可能成为风险扩散的通道。 将工作交给AI，但责任不能转移 然而，推迟或阻止金融引入AI并不是解决方案。AI不仅能提高生产力，还能在金融欺诈检测、异常交易监控、信用风险分析等方面增强金融系统的安全性。AI在以前人力无法覆盖的领域扩展金融服务的潜力也很大。重要的是，不是阻止技术的发展，而是要具备与其发展速度相匹配的控制能力。 为此，金融公司应在引入AI的业绩上更进一步。需要检查在哪些工作中使用AI，赋予了多大权限，出现错误行为时由谁来发现和制止。重要的金融交易应设有人工审批程序，并确保能够追踪AI的判断和行为记录。建立防止事故发生和阻止损害扩散的体系同样重要。 金融监管机构的监督方式也必然需要改变。除了现有的资本健康、流动性、内部控制和信息安全外，还需关注AI模型的风险和权限管理，以及对外部技术公司的依赖程度。需要检查个别金融公司的安全性，以及多家金融公司依赖相似AI可能带来的共同风险。开发AI的企业与将其应用于金融服务的公司之间的责任关系也应更加明确。 当然，无法事先完美地阻止所有风险。在互联网银行和移动金融普及的时期，安全和消费者保护的担忧也很大。然而，金融行业在利用技术的便利的同时，逐步完善安全机制。AI也应走这条路。只是在自主判断和行动的技术背景下，管理风险的范围和应对速度比以往更为重要。 在金融行业，信任不仅仅是企业形象。它是客户将资金托付给金融公司以及市场参与者之间进行交易的基本基础。金融公司通过AI降低成本、提高收益固然重要，但如果失去客户资金和信息安全的信任，这种效率将无法持久。AI在金融竞争力中占据主导地位的时代，金融的本质——信任和责任的价值将愈加重要。 如今，金融公司提出的问题也应有所改变。不是AI能替代多少人类工作，而是是否准备好管理在此过程中产生的风险。随着AI变得越来越智能，控制金融安全机制的能力也必须与之进化。金融公司可以将判断和工作交给AI，但不能将对结果的责任转移。AI时代金融的竞争力在于能够多大程度上将工作交给机器，而在于能多么有效地控制这些工作。※ 本报道经人工智能（AI）系统翻译与编辑。

随着半导体市场的复苏和出口改善，利率上升的可能性再次浮出水面。在家庭债务接近2000万亿的情况下，若利率上升，弱势借款人的偿还负担和金融机构的健康状况将面临更大压力。 根据金融界的消息，2026年4月，存款银行家庭贷款新发放中浮动利率占比为72.2%，较去年年底的51.1%上升了21.1个百分点。浮动利率贷款占比高意味着利率变动对借款人的利息负担反应更快。 与此同时，韩国银行暗示可能会提高基准利率，最近银行的住房抵押贷款固定利率也开始回升。如果基准利率真的上调，借款人的本金和利息偿还负担将迅速增加，消费能力下降和逾期率上升的可能性也随之增加。 问题在于，利率上升的压力与家庭债务接近2000万亿的现状相互交织。由于债务规模已达到历史最高水平，利率变动对家庭的冲击也将远大于以往。 尤其是针对弱势借款人，偿还负担可能迅速加重。低收入、低信用借款人和多重债务者在利率上升后，吸收利息负担增加的能力相对不足，逾期风险可能进一步扩大。韩国银行预计，由于弱势借款人偿债能力下降，今年第二季度家庭信用风险将增加。 如果弱势借款人的偿还能力恶化，可能会导致逾期率上升。金融界认为，这种不良贷款的扩大可能会增加金融公司的准备金储备压力和坏账成本。 在非银行金融机构中，健康状况出现恶化迹象。今年第一季度，储蓄银行的逾期率为6.7%，较上季度上升0.7个百分点。同一时期，固定不良贷款（NPL）比例也上升至8.6%，增加了0.2个百分点。 专家指出，在利率上升期，应关注弱势借款人的偿还能力变化，而非仅仅关注家庭债务总量。由于债务规模已达到较高水平，利率上升的冲击可能集中在弱势群体和非银行金融机构，因此对这些风险的前瞻性管理将成为金融界的核心任务。 金大钟，世宗大学商学院教授表示：“最令人担忧的是多重债务者或高风险借款人的逾期率上升。如果弱势借款人的不良贷款扩大，可能会导致以第二金融领域为中心的金融机构健康状况恶化，从而引发‘银行挤兑’或信贷紧缩等‘金融系统风险’。”※ 本报道经人工智能（AI）系统翻译与编辑。