新加坡推出全球首个代理AI治理框架。跨境AI应用将迎新篇章！

新加坡数字领域近日再次走在全球前沿。新媒网跨境获悉，新加坡已正式推出全球首个针对代理人工智能（AI）系统的治理框架，旨在应对这类能够独立推理和行动的AI系统所带来的日益增长的安全与运营风险。此举不仅标志着AI治理领域迈出了重要一步，也为全球跨境行业在拥抱AI技术的同时，如何确保安全、负责任地应用提供了新的参照。

全球首个代理AI治理框架正式发布

这一里程碑式的《代理AI模型治理框架》（MGF）于2026年1月22日，由新加坡数字发展和信息部长约瑟芬·张（Josephine Teo）在瑞士达沃斯举行的世界经济论坛上正式公布。该框架由新加坡信息通信媒体发展管理局（IMDA）主导开发，其基础是新加坡自2019年便已实施的AI治理指南，但MGF将关注重点放在了解决那些不仅能生成内容，更能自主执行任务的AI代理系统所面临的独特挑战上。

与我们熟悉的生成式AI不同，代理AI系统具备更高级别的自主性。它们能够为了实现特定目标而进行多步骤规划，并且可以无需人工直接干预，便与外部环境进行交互，例如更新客户数据库或直接处理支付等操作。这种能力的提升无疑极大地提高了业务生产效率，但IMDA在发布框架时也明确指出，代理AI采取未经授权或错误行动的风险随之增加。IMDA进一步强调，随着代理能力的增强和自主性的提高，有效的人工问责机制面临挑战，这可能导致更大程度的自动化偏见，或是用户过度信任过去表现可靠的自动化系统。

MGF旨在为部署AI代理的组织提供清晰的指导，无论这些AI工具是内部开发还是由第三方提供，其核心目标都是确保AI代理系统的安全与有效实施。框架建议的治理措施涵盖多个方面，包括限制代理的自主权以及其对数据和工具的访问权限，明确需要人工批准的关键检查点以有效预防自动化偏见的产生，以及在AI代理的整个生命周期中持续实施基线测试和监控。此外，框架还强调，用户应清楚地了解自己何时正在与代理AI进行交互，并接受必要的培训，以便能够对代理AI系统进行有效的监督。

行业巨头积极响应，共筑AI信任基石

该治理框架的制定过程并非闭门造车，而是充分吸纳了来自主要科技公司和保险业的宝贵意见。外媒报道称，亚马逊网络服务（Amazon Web Services）全球公共部门国家经理埃尔西·谭（Elsie Tan）指出，由于代理AI系统将做出具有现实后果的决策，因此，在基础设施中构建可见性、遏制和对齐的具体机制，并结合人工判断，是明智使用这些系统的必要条件。

作为AI保险领域的先行者，瑞萨罗（Resaro）公司的联合首席执行官艾普丽尔·秦（April Chin）认为，该框架填补了政策指导方面的一个关键空白。她表示：“这项框架为AI代理保险奠定了重要的基础。例如，它能够帮助组织明确代理的边界、识别潜在风险并实施诸如代理护栏等风险缓解措施。”这表明MGF不仅对技术开发者有指导意义，也为新兴的AI风险管理和保险市场提供了规范化基础。

谷歌云（Google Cloud）新加坡和马来西亚国家总监塞琳·西亚（Serene Sia）补充道，建立对代理AI系统的信任是一项共同的责任。她指出，谷歌一直致力于制定开放标准，以确保AI代理的安全使用。塞琳·西亚表示：“谷歌率先推出了如Agent2Agent协议（A2A）和Agent Payments协议（AP2）等开放标准，在为建立可互操作且安全的多代理系统基础方面发挥着关键作用。我们将继续致力于负责任的创新，并期待随着这项技术的进一步发展，贡献更多的最佳实践。”这些积极反馈体现了行业对于规范AI发展的共同期待，以及对新加坡先行举措的认可。

框架持续演进，聚焦亚太AI治理前沿

IMDA将此框架描述为一份“活文档”，这意味着它并非一成不变，而是将根据行业反馈和实际案例研究进行持续的完善和优化。目前，该机构正在积极寻求行业内的反馈和具体的案例研究，以期进一步细化和充实这些指导方针。此外，IMDA还在其用于测试基于大型语言模型的应用程序的入门工具包基础上，制定专门用于测试代理AI应用程序的特定指南。

值得注意的是，在此次框架发布之前，新加坡在AI安全领域已有所行动。2025年10月，新加坡网络安全局（Cyber Security Agency of Singapore, CSA）发布了AI系统安全指南的补充说明，该补充文件明确针对代理AI的独特风险。该文件已公开征求意见，为系统所有者提供了实用的控制措施，并概述了如何通过描绘潜在威胁参与者可能利用漏洞的工作流程来评估风险。

新媒网跨境了解到，新加坡在AI治理领域的积极探索，与整个亚太地区对AI技术应用与规范的关注不谋而合。区域内各国企业和机构正从不同维度审视并构建自身的AI治理体系：

例如，数据分析公司Dataiku的亚太和日本地区首席数据官曾探讨过如何通过实施健全的AI治理，在加速创新的同时有效降低“影子AI”（未经授权或未受监管的AI系统）带来的风险。

渣打银行（Standard Chartered Bank）正通过将其战略建立在良好管理、以结果为导向的数据之上，来应对人工智能采纳的复杂性，其集团首席数据官穆罕默德·拉希姆（Mohammed Rahim）对此进行了深入阐述。

日本电信电话公司（NTT Data）的一位区域负责人指出，许多AI项目之所以未能实现规模化扩张，关键在于企业常常忽视了网络现代化和治理框架等基础性需求。这进一步凸显了底层基础设施和治理机制的重要性。

软件供应链安全公司JFrog正在将其平台扩展到AI模型领域，以与软件构件相同的严谨程度进行管理，从而将DevSecOps（开发、安全、运维）、MLOps（机器学习运维）和治理统一到一个平台上。

这些案例共同展现了亚太地区在AI治理和应用方面的多层次探索，而新加坡推出的代理AI治理框架，无疑为区域乃至全球的AI发展树立了一个重要的标杆。随着AI技术的持续演进，如何平衡创新与风险，将是全球跨境行业需要长期关注并共同解决的议题。

新媒网（公号: 新媒网跨境发布），是一个专业的跨境电商、游戏、支付、贸易和广告社区平台，为百万跨境人传递最新的海外淘金精准资讯情报。

本文来源：新媒网 https://nmedialink.com/posts/singapore-starts-world-first-ai-agent-rules.html