金融智能化风控新范式：新加坡金融管理局携手业界推出SAFR框架，为AI代理筑牢安全防线

新加坡金融管理局（MAS）日前携手业界推出一项开创性的行业框架，旨在为在金融系统中运行的AI代理建立更为严密的风险防控体系。

该框架名为“运行时代理金融保障”（Safeguards for Agentic Finance at Runtime），简称SAFR。它详细阐述了金融机构如何授权AI代理执行操作、在特定情况下触发人工审核，以及在实际行动执行前记录所有决策过程。

SAFR框架由新加坡金融管理局、多家领先金融机构及金融科技企业共同研发，隶属于MAS的BuildFin.ai倡议。该倡议旨在推动金融领域人工智能解决方案的负责任开发与应用。

该框架主要针对那些具备自主行动能力的AI代理，而非仅仅提供建议供人工审核的系统。

这些AI代理的应用场景广泛，例如发起支付、提交交易指令、审批信贷申请、提交监管报告或处理保险索赔等。

该报告指出，现有治理流程主要围绕人类决策设计，对于以高速和大规模运行的自主系统而言，可能已显不足。

SAFR的设计理念是作为一个中间层，介入AI代理与其操作的系统之间。

在任何操作执行之前，SAFR框架将对AI代理的身份、被授予的权限、机构内部控制措施以及风险阈值进行全面核查。

SAFR框架设立了多个治理检查点，在AI代理执行拟议操作前进行验证和记录，从而确保其行为严格遵循预设的授权范围、政策规定和风险边界。

该框架主要由四大核心组件构成：代理身份识别、控制措施库、决策引擎和审计日志。

其中的决策引擎（disposition engine）负责判断某项操作是否应被批准自动执行、直接拒绝、转交人工审核，亦或在进行风险标记后允许继续进行。

审计日志则会为每一次治理决策创建防篡改记录，其中包含拟议操作、所应用的规则以及最终结果。

SAFR框架是在新加坡金融管理局“Project MindForge”人工智能风险管理工具包的基础上进一步发展而来，其核心焦点在于如何在AI代理的操作执行点应用具体的安全保障措施。

报告深入探讨了策略约束执行、实时验证、可审计性以及互操作性等关键领域，并详细阐述了如何将这些安全保障机制无缝嵌入系统运营之中。

业界参与者已将SAFR框架应用于多个实际场景，涵盖代理辅助支付、资金管理操作、财富管理及咨询流程，以及客户互动等。

该报告收录了来自全球领先金融机构与科技企业的实际应用案例，涵盖支付巨头、跨国银行及保险服务商等多元主体。

SAFR并非监管指导或托管服务。它被定位为一个行业参考模型，各机构可以根据自身的技术架构、风险管理和合规体系进行定制化调整与实施。

机构可以通过两种主要方式实施该框架：一是采用原生集成，即AI代理在每次提出操作前生成治理记录；二是采用网关模式，拦截现有AI代理发出的对外API调用。

新加坡金融管理局已邀请有意向的行业伙伴加入BuildFin.ai工作组，共同为SAFR框架的未来版本贡献力量。

近期成立的未来金融研究院（Future of Finance Institute）将通过行业试点和沙盒实验，支持SAFR框架的未来推广与应用。