新加坡2024金融AI风险新规！负责任创新是核心。

新加坡金融管理局（MAS）于近期发布了一份关于人工智能（AI）风险管理的咨询文件，旨在为金融机构在金融领域负责任地使用人工智能提供明确指导。此举标志着新加坡在平衡金融创新与风险控制方面迈出了重要一步，以应对AI技术在金融业日益广泛的应用。

事件概览：新加坡金管局发布AI风险管理指引

新媒网跨境获悉，新加坡金融管理局于近日正式对外发布了《人工智能风险管理指引》的咨询文件，向业界征求意见。该指引旨在为所有金融机构提供一套清晰的监管预期，确保其在利用AI技术提升效率和服务质量的同时，能够有效识别、评估和管理相关风险。

此次指引的推出，是新加坡金管局对其在2024年针对主要银行AI使用情况进行的专题监管审查结果的总结与深化，同时也吸纳了与多家金融机构进行深入探讨后的共识。这表明了该指引的制定是基于实际行业情况和广泛意见的。指引覆盖了AI风险管理监督、关键AI风险管理系统与程序、AI生命周期控制，以及AI使用所需的能力与容量建设等多个核心方面，力求构建一个全面而严谨的AI风险管理框架。

新加坡金管局强调，AI技术在金融领域的应用场景广泛多样，因此，不同AI用途所伴随的风险会因金融机构的规模、业务范围和商业模式而异。鉴于此，该指引旨在建立一套普遍适用于整个金融行业的监管期望，并可根据金融机构的规模、业务性质、AI使用程度及其风险状况，以适当的比例原则进行应用，以实现风险管理的灵活性和针对性。

值得注意的是，该指引的覆盖范围超越了传统AI应用，明确将生成式AI（Generative AI）以及如AI代理（AI agents）等新兴技术纳入其中，体现了监管机构对最新技术发展的敏感性和前瞻性。

三大关键领域：监管机构的明确要求

为确保金融机构能够全面有效地管理AI风险，新加坡金管局在以下三个关键领域提出了明确的监管预期：

1. AI风险管理的治理与监督

指引强调，金融机构的董事会和高层管理层在AI风险管理中扮演着核心角色。其职责包括建立和实施AI风险管理的框架、结构、政策与流程，并培育适合AI使用的风险文化。这意味着，对AI风险的管理不应仅停留在技术层面，更应上升到战略和公司治理的高度，确保顶层设计能够有效指导和约束AI在业务中的应用。高层领导需对AI带来的潜在伦理、操作和声誉风险有清晰的认识，并推动全机构范围内的风险意识和责任落实。

2. 健全的AI风险管理系统、政策与程序

为支持有效的监督和风险管理，金融机构需建立明确的流程，以识别其在整个企业内部的AI使用情况。这包括维护准确且最新的AI资产清单，详细记录每一项AI应用的具体信息、部署位置和数据来源。此外，机构还需实施风险实质性评估，将AI应用的影响、复杂性以及对其他系统或业务的依赖程度等维度纳入考量。这种评估机制有助于金融机构优先处理高风险的AI应用，并为其分配相应的管理资源。

3. 贯穿AI生命周期的风险控制

指引详细阐述了金融机构在AI整个生命周期中，从设计、开发到部署和运营阶段，应规划并实施的各项风险控制措施。这些控制措施涵盖了多个关键领域：

数据管理： AI模型的性能和公平性高度依赖于高质量的数据。指引要求金融机构确保用于训练和运行AI模型的数据是准确、完整、相关的，并符合隐私保护和数据安全规定。这包括对数据来源的审查、数据清洗流程的建立以及数据访问权限的严格控制，以防止因数据质量问题导致的模型偏差或安全漏洞。
公平性： 金融AI应用可能因算法设计或训练数据偏见而导致对特定群体的不公平待遇。指引要求金融机构采取措施，识别、评估和减轻AI系统中的潜在偏见，确保AI决策的公平性、透明度和非歧视性，避免出现歧视性信贷审批、保险定价等问题。
透明度与可解释性： 鉴于AI模型的“黑箱”特性，指引要求金融机构提升AI决策的透明度和可解释性。这意味着机构应能够理解AI模型是如何得出特定结论或建议的，并能在必要时向客户或监管机构解释这些决策背后的逻辑，增强信任度并便于问题追溯。
人工监督： 尽管AI技术不断进步，但人类监督仍然至关重要。指引强调建立有效的人工监督机制，确保在AI系统出现异常、产生不确定结果或涉及关键决策时，有适当的人工干预和审查流程，保障“人机协同”的有效性。
第三方风险： 随着金融机构越来越多地依赖外部供应商提供AI解决方案或服务，管理第三方风险变得尤为关键。指引要求机构对AI供应商进行严格的尽职调查，评估其风险管理能力，并在合同中明确风险分担和责任机制，确保供应链的稳健性。
评估与测试： 在AI模型投入使用前，金融机构必须进行全面的评估和测试，验证其性能、准确性、鲁棒性和安全性。这包括建立严格的测试协议、使用多样化的数据集进行压力测试，并对模型在不同场景下的表现进行验证，以确保其在实际运营中的可靠性。
监控与变更管理： AI模型并非一成不变，其性能可能随时间推移和数据分布变化而衰减。指引要求金融机构建立持续的监控机制，跟踪AI模型的表现，及时发现并纠正问题。同时，对模型的任何重大变更都应进行严格的审批、测试和记录，确保变更过程受控且风险可管理。

新加坡金管局强调，上述控制措施应根据其相关性，并与AI应用所评估的风险实质性相匹配，实行比例原则。此外，金融机构还应确保其在AI使用方面的能力和容量是充足的，包括人才储备、技术基础设施和内部专业知识，以有效支撑这些风险管理要求。

新加坡在AI金融监管领域的先驱地位

新加坡金融管理局副总裁Ho Hern Shin指出，所提出的《人工智能风险管理指引》为金融机构提供了清晰的监管预期，支持它们在运营中有效利用人工智能。她进一步强调，这些比例化、基于风险的指引能够促进金融机构负责任的创新，前提是它们实施了相关的保障措施来应对关键的AI相关风险。这表明了新加坡金管局在推动金融科技发展的同时，始终将风险管理和负责任创新置于核心地位。

新媒网跨境了解到，此次指引的发布，也与新加坡在全球金融科技治理方面的国际合作努力相呼应。新加坡金融管理局与英国金融行为监管局（UK FCA）在金融AI领域已建立了合作关系，共同探索人工智能在金融业的应用和监管挑战。这种国际间的协同合作，不仅体现了AI风险管理在全球范围内的普遍性和复杂性，也进一步巩固了新加坡在构建国际化、前瞻性金融监管框架方面的领导地位。

综合来看，新加坡金融管理局此次发布的AI风险管理指引，不仅为新加坡金融业的AI应用划定了清晰的边界，也为全球其他监管机构在应对AI技术挑战、促进负责任创新方面提供了重要的参考范本。此举将有助于提升金融机构对AI风险的识别和管理能力，确保AI技术在为金融行业带来变革的同时，能够在一个安全、稳定和可信赖的环境中发展。

新媒网（公号: 新媒网跨境发布），是一个专业的跨境电商、游戏、支付、贸易和广告社区平台，为百万跨境人传递最新的海外淘金精准资讯情报。

本文来源：新媒网 https://nmedialink.com/posts/singapore-2024-fin-ai-risk-rules-responsible-innovation.html