新加坡：代理式AI出事谁担责？上周新框架已明确！

在人工智能技术飞速发展的当下，当系统出现故障时，究竟谁该承担责任？新加坡在此方面正积极探索，并提出了新的治理框架。

过去几十年里，企业问责制的基础在于明确的责任归属。当组织内部出现问题时，人们通常会追问：“是谁批准了这项决定？”因为决策由人做出，系统执行，责任也往往可以追溯到某个角色、团队或具体签署人。即便自动化技术不断扩展，这一基本逻辑仍然适用。然而，代理式人工智能（Agentic AI）的出现，正在逐步打破这种传统认知。

随着人工智能系统获得规划、决策以及在企业系统中采取行动的能力，传统的责任边界开始变得模糊。这些系统现在能够触发交易、与其他系统互动，并以机器的速度执行操作，而大多数情况下，其每一步行动并非都在人类的实时监控之下。

正是为了应对这一转变，新加坡政府于上周发布了《代理式人工智能模型治理框架》。该框架并未停留在讨论是否应该允许人工智能采取行动的层面，而是从它已经具备这种能力这一前提出发。框架的关注点更为务实且深刻：如果允许人工智能系统采取行动，那么必须有人对它们的行为负起有意义的责任。

代理式人工智能重塑责任本质

传统的人工智能系统主要扮演决策辅助者的角色。它们可以识别风险、生成洞察或提出后续步骤建议，但人类对执行拥有直接控制权。然而，代理式人工智能却与众不同，它正在改变这种旧有的动态。

代理式系统能够自主决定调用哪些工具，将多个行动链式连接，与其他代理进行交互，并随着情况演变调整自身行为。它们无需等待人类的提示，即可触发交易、更新记录、发送通信或执行操作性任务。

新媒网跨境了解到，该框架明确指出，这种转变带来了新的问责挑战。最终结果可能源于多个代理之间的互动，而非单一决策。行动可能以机器速度进行，超出了任何单个操作员的可见范围。因此，责任很容易分散在开发者、供应商和部署组织之间。

若缺乏有意的治理措施，结果不仅是技术风险，更是组织内部的模糊不清。当问题发生时，将更难以确定谁应负责、谁拥有权限以及谁本应介入。

确保人类的有效问责

新加坡的应对策略并非完全限制人工智能的自主性，而是要消除问责归属方面的任何模糊。新媒网跨境获悉，《代理式人工智能模型治理框架》反复强调，将任务委托给人工智能代理并不意味着将责任也一并委托出去。

即使系统独立运行，即使结果源于复杂的交互，部署这些系统的组织仍需对其行为负责。值得注意的是，该框架强调的是“有意义的问责”。纸面上的责任存在是不够的。人们需要能够解释为何某个代理被赋予了特定权限，其行为范围受到何种限制，以及其行动如何被监控和审查。

在此框架下，问责制并非事后追溯。它始于设计阶段，贯穿部署、运营和干预的全过程。如果人类无法实际理解或控制代理的行动范围，该框架建议，这样的部署本身可能就是不负责任的。

超越口号，重新思考人工监督

该框架也正视了人工智能治理讨论中长期存在的一个薄弱环节。“人在回路”（human in the loop）的概念常被视为一种万能的保障措施，即使它在实践中已不再能反映系统实际的运作方式。

新加坡的指导意见承认，一旦人工智能代理以高速和大规模运作，持续的人工监督将无法实现。期望人类批准或审查每一个行动是不切实际的，在某些情况下甚至是误导性的。这可能制造一种虚假控制感，同时引入自动化偏见，导致人们过于轻易地遵从系统行为。

因此，该框架呼吁实行基于风险的监督。在行动具有高影响力、不可逆转或法律敏感性的情况下，才应要求人工干预。例如，执行金融交易、删除关键数据或代表组织进行外部沟通。

同时，组织被期望定期测试其监督机制是否确实有效。监督被视为一项必须长期维护和验证的工作，而非一旦实施就默认有效的措施。

赋予代理权限，而非空白授权

该框架一个更为实际的方面是，它如何对待企业系统中的人工智能代理。它不将它们视为被动工具，而是将其视为拥有委托权限的行动者。这带来了具体的治理影响。

代理应拥有明确的身份、限定的权限，并对其被允许做什么有清晰的限制。“最小权限原则”直接适用于代理式系统。一个代理只应能访问其功能所需的工具和数据，不多不少。

可追溯性同样重要。组织应能够区分人类采取的行动、代理独立发起的行动以及代理代表人类执行的行动。这种区分不仅对审计至关重要，对于在事件发生时分配责任也具有重要意义。

该框架的方法与受监管行业长期以来的实践相呼应。权限是经过深思熟虑后委托的，访问是严格控制的，行动是有记录以便问责的。代理式人工智能也被期望在相同的纪律下运作。

问责制不应止于组织边界

该框架还认识到，代理式人工智能系统很少单独存在。它们通常依赖于一个供应商开发的模型，另一个供应商提供的代理平台，以及由多个第三方维护的工具或API。新加坡的立场是明确的：问责不能外包。

部署代理式人工智能的组织，需要理解其供应商的局限性，评估可用的控制措施，并确保可见性或干预方面的任何差距在其风险承受范围内是可接受的。当责任跨越多个方时，应通过治理安排和合同明确定义这些责任。

该框架承认，完美的透明度通常难以实现，组织无法实际地对人工智能供应链中的每一个环节保持绝对控制。但它要求的是，对这些局限性保持诚实，并在问责无法明确建立的情况下，克制部署代理式系统。

持续的治理命题

新加坡的框架并未声称代理式人工智能可以做到绝对安全或完全可预测。相反，它假设系统会发生故障，行为会出人意料，并非所有结果都能追溯到单一决策。

但它坚持的是清晰度。如果人工智能代理被赋予了权限，那么就必须有人准备好对其行为负责。问责制不能仅仅因为系统自主行动或其速度超出人类干预能力而消失。

在大多数组织中，人类犯下的错误会带来后果。决策会被审查，责任会被分配，问责也会随之进行。随着人工智能代理在企业内部承担更多责任，一个更困难的问题摆在面前：组织是否准备好对人工智能应用同样的标准？

如果人类导致的结果不可接受，那么当人工智能导致同样的结果时，是否就变得可接受了呢？如果答案是否定的，那么当系统代表组织行动时，谁又准备好被追责呢？

新媒网（公号: 新媒网跨境发布），是一个专业的跨境电商、游戏、支付、贸易和广告社区平台，为百万跨境人传递最新的海外淘金精准资讯情报。

本文来源：新媒网 https://nmedialink.com/posts/singapore-agentic-ai-blame-framework.html