重塑金融服务业的AI内部风险

在金融服务领域，受信任的访问权限不再仅仅归属于人类。随着该行业日益拥抱智能体以推动数字化转型，非人类身份正逐步融入日常业务流程。

快速普及的智能体与自主工作流程，虽是提升运营效率的可期路径，却也伴随着更高的风险。

在金融服务领域，AI与智能体被广泛应用于辅助决策、自动化工作流程，以及在客户、支付、理赔、交易和合规系统之间传递信息。这一转变已然在快速推进——据英国议会报告显示，英国75%的金融服务企业目前已在使用AI。AI有望大幅提升生产力，但这一前景能否实现，取决于各组织在推进AI采用时能否保障安全。

金融机构需要将AI视为一类新型"内部人员"——一个拥有访问敏感数据、系统和工作流权限的实体。具备完善的安全与治理管控，AI可以安全地提升生产力；一旦缺失这些管控，企业便面临风险：功能强大的自主系统将能够以机器速度访问、传输和处置敏感信息。

为确保防御能力在现代威胁环境中保持竞争力，金融机构需要建立一套安全模型，能够同步跟踪人类和非人类身份的动态。该模型须持续分析员工、账户和智能体的行为规律，并在合法访问迅速演变为风险时及时发出预警。

受信任的访问本身成为风险

金融服务机构历来将受信任的访问作为业务运营的核心支柱，传统上主要聚焦于员工、承包商和管理员对敏感数据与关键流程的访问责任管理。随着环境日趋自动化、互联互通且AI驱动，受信任的访问范围已延伸至人类活动之外。

安全团队如今需要监控持续运行、处理海量信息、秒级完成操作的智能体。这些智能体可能继承员工、服务账户或第三方集成的访问权限，使得追溯活动来源、理解决策逻辑、厘清责任归属变得更加困难。

由此产生了一个新的内部风险层面。内部威胁不再局限于疏忽或恶意行事的员工，还可能源于被授予合法访问权限的非人类身份或AI驱动流程，进而引发信息暴露。

传统管控手段固然仍有其价值，但它们并非为这种速度、自主性和情境复杂度而设计。这些手段能够确认某个身份是否拥有访问系统的权限，却未必能判断该访问是否合理。在金融服务领域，机构不仅需要知道谁（或什么）拥有访问权限，更需要判断其活动是否正常、是否被允许、是否安全。

在不阻碍创新的前提下保障智能体安全

金融机构不应将阻断AI工具作为应对AI风险的手段。智能体能够创造切实价值——从改善客户服务、减少人工操作，到支持更快速的决策。

当务之急是实现有保障的落地应用。这意味着不能天然假设智能体将始终精准可靠地运行。金融机构需要建立治理机制、人工监督和问责机制，规范智能体访问系统、使用数据和做出决策的方式，同时为安全团队提供行为分析能力，以便检测异常活动、排查风险并在更充分的上下文信息支撑下作出响应。

为支持AI的安全落地，该行业应重点关注以下方面：

通过AI监督维护信任

智能体的运行速度将持续加快，涉足的系统会更多，承担的运营职责也将不断扩大。当务之急是确保安全能力能够与之同步演进。

金融服务领域的信任已无法单纯依赖访问控制。真正能从AI中获益最多的企业，将是那些能够自信地部署智能体、同时具备完善可见性和监督机制，从而切实保护客户、数据以及行业信任根基的机构。

目标不是放缓AI的发展，而是确保每一个操作都可被理解、可被信任、可被追责。

Q&A

Q1：金融服务行业的AI智能体会带来哪些内部风险？

A：AI智能体被赋予访问金融系统、数据和工作流的合法权限，一旦缺乏有效监管，就可能以极高速度访问或传输敏感信息，形成新型内部风险。这类风险不同于传统员工失误或恶意行为，而是来自非人类身份的自主操作，传统安全管控难以有效识别和应对。

Q2：金融机构应如何在不影响创新的情况下保障AI智能体安全？

A：金融机构应建立完善的治理机制和人工监督机制，明确智能体访问系统、使用数据和做出决策的边界与责任。同时，安全团队需配备行为分析工具，实时监测智能体活动是否异常，做到风险可感知、可追溯、可响应，而不是简单地封锁AI工具。

Q3：目前英国金融服务行业AI普及情况如何？

A：据英国议会报告显示，目前已有75%的英国金融服务企业在使用AI技术。AI被广泛应用于辅助决策、自动化工作流程，以及在客户、支付、理赔、交易和合规等系统之间传递信息，整体普及进程正快速推进。