Havenlon | 杂谈：企业终于发现：AI Governance 不能只是一堆 Policy

2026 年 8 月 14 日Boston Consulting Group 发布了一篇面向 CIO 的文章提出了一个颇有意味的概念Enterprise AI Control Plane。文章的观察相当务实AI Agent 在大企业内部落地的速度已经快过决策者设计治理框架的速度。不同业务部门从不同厂商引入 Agent员工自己搭建的 Agent 也在悄悄运行规则不一致监督分散成本失控。BCG 因此建议企业在所有平台之上建立统一的控制层把身份、注册、可见性与运行时策略执行集中起来并特别提醒如果这一层脱离 AI Ops、DevOps 和现有产品生命周期而独立存在它最终只会变成无人使用的 shelfware。表面上看这不过是企业 IT 架构又多了一层 Control Plane是一个属于架构师和 CIO 的技术议题。但如果把视角从技术架构拉回到管理学会发现它背后其实触到了一件更根本的事情我们过去熟悉的企业治理很大程度上是按照“人类的执行速度”设计出来的。这个前提隐藏了几十年几乎从未被讨论因为它一直成立。而 AI Agent 正在改变它。一、传统治理为什么一直能够工作一家成熟企业通常拥有大量制度采购金额超过多少需要审批财务付款需要怎样复核生产系统什么时候可以变更员工可以访问哪些数据出现异常之后由谁负责。这些制度构成了企业的秩序感但它们有一个常被忽略的特征——它们并不直接阻止现实发生。公司规定“未经审批不得付款”并不意味着银行账户在技术上无法付款制度写明“生产数据库不得随意修改”也不意味着拥有管理员权限的人物理上做不到。传统治理真正依靠的是一整套围绕人展开的组织结构制度规定行为人理解制度流程检查行为管理者承担责任审计在事后发现偏差。制度本身是软的让它变硬的是人的判断、人的顾虑和人的责任。这套体系能够长期运行还有一个更少被讨论的原因人做事情本身很慢。一名员工要采购一批设备需要填写申请、寻找供应商、提交审批、通知财务再由采购执行即便其中某个环节判断错误整个过程仍然可能延续几个小时甚至几天。一个财务人员一天能够处理的付款数量有限一名运维工程师能够执行的生产变更有限一位管理者能够作出的重大决定同样有限。这种缓慢在效率上是成本在治理上却是一种被无意间赠予的余量。主管可能在中途发现不对财务可能提出疑问同事可能打一个电话确认风控可能暂停交易即使事情已经开始管理层往往仍有时间介入。因此传统企业治理并不只建立在 Policy 之上它还隐含地依赖着另一个条件执行速度不能远远超过组织发现问题和纠正问题的速度。这个条件过去太过普通以至于我们几乎从未把它当成治理体系的一部分。它不写在任何制度文件里却支撑着所有制度文件。AI Agent 第一次让它不再理所当然。二、Agent 改变的首先不是智能而是时间关于 AI Agent公共讨论几乎全部集中在智能维度它能够理解自然语言能够拆解任务能够选择工具能够连续完成多个步骤。这些确实是能力的跃迁但从组织治理的角度看Agent 带来的另一个变化可能更加根本——它压缩了从判断到执行之间的时间。过去一名员工接到“处理这批供应商账款”的任务需要打开系统、核对数据、逐笔操作工作节奏天然被人的注意力和体力切分成若干段落一个 Agent 则可以一次读取整批发票核验供应商信息生成支付请求然后连续调用接口。过去一个团队几个小时完成的事情可能被压缩到几分钟甚至几十秒。效率因此提高这正是企业引入 Agent 的理由。但同一件事情还有另一面人的错误过去也是以人的速度传播的而 Agent 的错误开始以机器的速度传播。当一个人判断错一笔付款组织需要处理的是一笔错误当一个 Agent 对同一类任务形成系统性误判它可能在任何人察觉之前已经重复执行几十次、几百次。上一节提到的那段由人自然填补的缓冲时间在这里被直接抽走。真正发生变化的并不是“AI 比人更容易犯错”。事实上在许多重复性判断上未来的 AI 完全可能比大量员工更稳定、更少疲劳、更不情绪化。问题在于另一件事相同的一次判断偏差经过不同的执行速度之后会产生完全不同的治理后果。这意味着 AI Agent 给企业提出的管理问题并不只是如何提高模型准确率而是如何面对一个越来越明显的不对称机器执行越来越快组织纠错仍然按照人的速度运行。而当速度成为问题的核心我们就必须重新审视那些原本被认为足够可靠的规则本身。三、Policy 最大的问题是它自己不会阻止任何事情过去几年AI Governance 已经形成了相当完整的方法论。企业制定 AI 使用规范划分风险等级要求模型评估建立伦理委员会记录数据来源规定哪些业务允许使用 AI。这些工作重要且必要它们让组织第一次对智能系统有了共同语言。但它们有一个共同特点它们主要规定系统应该怎样运行。而“应该”与“实际会不会发生”之间始终存在距离。这一点其实和传统企业制度完全一样。员工手册写着“不得泄露客户信息”并不能物理阻止一个拥有数据访问权的人复制文件财务制度写着“大额付款必须双人复核”也只有当支付流程真正要求第二个人参与时这条规定才从文字变成控制。于是 Policy 始终可能处在两种性质完全不同的状态一种是“组织希望你这样做”另一种是“如果不满足这条规则系统就不会继续执行”。在人类组织里我们长期容忍第一种状态因为它足够用——人会承担责任管理者可以监督违规者可以追责而且执行速度相对有限第一种状态往往有时间在事情失控前退回到第二种。Agent 改变的正是这个条件。一个 Agent 不会因为员工手册写着“高风险操作需要谨慎”就自发放慢如果它持有合法 Token、可用 API 和足够权限Policy 与 Execution 之间可能只剩下一次函数调用的距离。于是一个过去主要属于管理学的问题开始变成工程问题一条治理规则究竟只是告诉 Agent 应该怎么做还是能够决定某个动作是否真的允许发生这可能正是 AI Governance 下一阶段最大的变化。它要求我们重新追问的不再只是规则的内容还有规则被安放的位置。四、当纠错速度跟不上执行速度治理必须向前移动传统治理通常分布在执行的前后两端。执行之前有制度、培训、审批和权限配置执行之后有日志、审计、调查和责任追究。中间真正发生动作的那一瞬间多数系统反而默认放行既然身份和权限在前面已经校验通过动作就可以继续。对人的操作而言这种结构长期基本可用因为前后两端之间的时间足够长长到足以让人插进来。但面对自主 Agent这段间隙开始暴露。如果一个 Agent 在十秒钟内能够连续完成几百个动作那么五分钟后的报警已经不是实时控制第二天的审计当然能够解释发生了什么却无法收回那些动作已经产生的结果。审计回答的是“为什么会这样”而组织真正需要的是“不要变成这样”。因此治理必须从执行之前和执行之后进一步进入执行过程之中。这也是 BCG 所提出的 Enterprise AI Control Plane 中最值得注意的部分。它并不是再增加一个管理后台而是主张身份认证、Agent 与工具注册、可见性以及 runtime policy enforcement 统一进入 Agent 实际运行的环境——在 BCG 的描述中未注册的 Agent 试图调用 API 或 MCP 服务器时会在调用发生的那一刻被拦下而不是事后被记录。BCG 也提醒这一层如果脱离 AI Ops、DevOps 和产品生命周期而单独存在就会沦为 shelfware。近来其他企业安全讨论也在朝类似方向移动治理不能只是一套合规文件而需要在真实运行环境中持续产生与上下文相关的控制。这里真正改变的是治理发生的位置。过去我们更多在问“规则是什么”未来越来越需要继续问“规则在哪里真正产生约束”。五、治理进入执行不等于给 Agent 增加更多审批这里很容易出现一个误解。既然 Agent 执行太快那是不是在每个动作之前都让人重新点一次确认就好如果这样做Agent 最重要的价值——自主完成任务——也就被重新取消了。企业花力气引入自主软件却用人工节拍把它拖回人的速度这不是治理只是把效率收益退回去。真正需要进入执行的并不是更多人工审批而是把原本隐含在人类判断里的边界翻译成系统可以实时判断的条件。过去那些由老练的财务人员凭经验停下来的瞬间——收款账户什么时候变过、这笔金额和批文对不对得上、这个任务是不是早就该结束了——本质上都是可以被表达的条件只是过去从未被要求写清楚。因此一项支付任务完全可以自动执行但系统仍然可以在真正付出去之前逐条检查对象是否仍是原来的供应商金额是否仍在批准范围内账户状态是否正常任务是否仍然有效相关证据是否完整以及有没有任何一条独立规则明确禁止当前动作。满足条件自动继续条件不满足立即停止。这种最终拒绝的能力才是治理真正落到执行层的标志——它不需要人时刻在场却保证在关键处一定有人定下的边界在场。这和传统治理有一个非常重要的区别。传统 Policy 更像是在描述“组织希望什么发生”执行控制则进一步回答“现实改变之前什么条件必须成立”。因此Execution Governance 与 Execution Control 并不是同一件事情。前者负责定义规则、责任和边界后者负责让其中那些真正重要的边界在执行路径上不可被轻易绕过。可以把它理解成Governance 决定什么是正确的Control 决定错误的东西能不能继续发生。两者缺一不可。而当后者开始成型治理这个词本身的含义也会随之改变。六、AI Governance 最终可能成为一种实时能力过去企业谈治理联想到的是制度、委员会、审计、风险报告和责任体系。这些东西不会消失它们仍然承担着定义价值取向和分配责任的功能。但 Agent 可能迫使我们为“治理”这个词补上一种新的能力。当智能只负责提供建议时治理主要约束人如何使用它当智能开始直接执行治理就必须获得一种此前不需要的性质在现实改变之前产生作用。这也是为什么 Control Plane、Runtime Authorization、Runtime Policy Enforcement 这些概念正在越来越频繁地出现。它们背后不一定会收敛成同一种技术架构但共同反映了一个变化企业开始意识到面对能够自主行动的软件仅仅知道它做了什么已经不够仅仅规定它应该做什么也不够。治理必须越来越接近“事情发生的那一刻”。未来真正成熟的 AI 企业也许不会因为写下了更多 Policy 而显得治理更好而会因为它能够把不同风险对应到不同层级普通任务高度自动化重要动作具备清晰边界高风险执行能够被实时判断异常状态可以在机器速度下被停止扩散。这不意味着治理会变得更加保守恰恰相反。只有当组织真正拥有运行时边界它才可能放心地把更大的自主空间交给 Agent因为它不再需要在“完全相信 AI”和“什么都让人审批”之间二选一。信任不再依附于某一个具体对象是否可靠而是由结构本身承载——这也是企业治理一直以来的成熟路径从依赖可信的人走向依赖可信的结构。过去企业依靠制度告诉人什么应该做再用审计和责任体系纠正偏差。这套机制建立在人类速度之上因此长期有效。AI Agent 改变的正是这个最不起眼也最基础的条件。当一次判断可以在几秒钟里变成几百次真实操作当执行速度第一次系统性地超过组织发现问题和纠正问题的速度Policy 与 Execution 之间那段过去由人自然填补的距离就不能继续保持空白。所以AI Governance 下一阶段真正重要的变化也许不是制定更多规则而是让最关键的规则拥有抵达执行层的能力。这也是 Agent 时代企业治理真正需要完成的那次转变从管理智能走向管理智能能够产生的现实后果。说到底需要被约束的从来不是某一个具体的执行者而是那种不受约束地把判断变成现实的权力。当执行速度超过组织的纠错速度治理就不能只存在于执行之前和执行之后。它必须进入执行本身。