新加坡重磅推出AI代理治理新框架，全球首创！

数字发展和信息部长约瑟芬·张（Josephine Teo）在全球经济论坛上宣布，新加坡正式推出其代理人工智能（AI）治理框架（MGF）新模型。这一举措标志着新加坡在全球AI治理领域迈出了重要一步，旨在为新兴的AI代理技术提供负责任的开发和部署指南。

新加坡资讯通信媒体发展局（IMDA）发布声明指出，该框架在全球范围内属同类首创。它在2020年发布的AI治理框架基础上进一步发展，致力于为AI代理的可靠和安全部署提供具体指导。该框架为各组织如何负责任地部署AI代理提供了详尽的指引，其中涵盖了通过技术和非技术手段降低潜在风险的建议，同时强调人类在整个过程中始终承担最终责任。

MGF这类治理框架的出台，旨在支持AI技术的负责任开发、部署和使用。其核心目标是确保所有用户都能以可信赖和安全的方式，充分享受AI技术所带来的益处。这与新加坡一贯秉持的AI治理理念高度契合，即采取务实且平衡的策略，在为技术创新预留足够空间的同时，设立必要的安全防护栏，以应对技术发展中可能出现的风险。

AI代理的特性与风险分析

有别于传统的AI系统以及近年兴起的生成式AI，AI代理具备更强的推理能力，并能主动采取行动以代表用户完成特定任务。这意味着AI代理能够深度介入并自动化处理重复性工作，例如客户服务交互、企业内部流程自动化等。通过将员工从这些繁琐任务中解放出来，AI代理有助于促进行业转型升级，使人员能够投入到更具价值的创造性工作中。

然而，AI代理所具备的这种自主性和行动能力也带来了不容忽视的潜在风险。例如，AI代理可能被授权访问敏感数据，或具备更改现有环境的能力，如自动更新客户数据库或进行支付操作。这些特性使得未经授权或错误的操作一旦发生，将产生严重后果。此外，随着AI代理能力的增强和自主性的提升，对有效的人工责任制也构成了挑战。比如，自动化系统中固有的偏见可能被放大，或者人类可能过度信任那些在过去表现可靠的自动化系统，从而放松警惕，忽视对AI代理的必要监督。

鉴于上述潜在风险，新媒网跨境了解到，深入理解AI代理可能带来的风险至关重要。同时，确保各组织能够有效实施必要的治理措施，以便负责任地利用AI代理技术，包括在整个部署和运行过程中，始终保持对AI代理的有意义的人工控制和监督，成为当前全球AI治理领域的重要议题。

MGF框架的部署指南与维度

新加坡MGF框架为AI代理风险提供了一个结构化的概述，并结合了新兴的最佳实践方案。该框架主要面向希望部署AI代理的各类组织，无论这些组织是通过内部研发AI代理，还是选择使用第三方提供的AI代理解决方案。

根据新加坡资讯通信媒体发展局的声明，MGF框架从四个关键维度为组织提供了关于负责任部署AI代理所需采取的技术和非技术措施的指导。

首先，在部署AI代理之初，框架强调了预先评估和限制风险的重要性。这包括仔细选择适合AI代理的应用场景，并严格限定AI代理的权限范围，例如对其自主性、以及对工具和数据的访问能力进行明确约束。这一举措旨在从源头上控制潜在风险。

其次，MGF框架提出，必须通过定义关键的人工批准检查点，确保人类在AI代理操作中始终扮演决策和负责的角色。这意味着在AI代理执行某些重要操作或达到特定状态时，需要人工干预并批准，从而维持人类对AI代理的有效控制。

第三，在AI代理的整个生命周期中，组织需要实施一系列技术控制和流程。这包括进行基线测试，以验证AI代理在受控环境下的表现和安全性；同时，还需对AI代理访问白名单服务进行严格控制，防止其访问未经授权的系统或数据。

第四，为了支持最终用户承担起相应的责任，MGF框架强调了透明度和教育培训的重要性。通过向用户清晰地解释AI代理的工作原理、能力边界和潜在风险，并提供充分的培训，确保用户能够理解并正确使用AI代理，从而共同构建一个安全可靠的AI生态。

Resaro联合首席执行官艾普丽尔·秦（April Chin）评价指出，MGF作为首个专门解决AI代理特定风险的权威性资源，填补了当前AI代理政策指导领域的关键空白。她进一步解释道：“该框架为AI代理的保障奠定了坚实基础。例如，它能够帮助组织明确AI代理的边界，识别潜在风险，并实施诸如代理防护栏等缓解措施，从而有效管理AI代理的复杂性。”

新加坡在AI治理领域的宏观布局

值得注意的是，MGF的发布是新加坡致力于构建一个值得信赖且可靠的全球AI生态系统系列举措中的最新进展。新加坡通过其设立的AI安全研究所（AISI），正积极与国际社会展开合作，共同探索AI安全解决方案。同时，新加坡还主导着东盟AI治理工作组（WG-AI）的工作，旨在东盟区域内建立一个可信赖的AI生态系统，并促进东南亚国家在AI治理方面的深度合作。

在新加坡国内，除了MGF框架，还推出了多项关键举措，例如AI验证工具包以及用于测试基于大型语言模型（LLM）的应用程序的安全性和可靠性的入门工具包等。这些国内外协同的努力，共同构成了新加坡在国际舞台上建立值得信赖的AI生态系统目标的重要一步。新媒网跨境认为，新加坡的这一系列前瞻性布局，不仅展现了其在技术创新方面的决心，更凸显了其在负责任地引导新兴技术发展方面的国际担当。

本文来源：新媒网 https://nmedialink.com/posts/sg-unveils-first-ai-agent-governance-model.html