陈建平陈建平
← Research
Beyond Intelligence#组织制度#AI治理#责任归属

AI 制度设计:当执行者不再是人的时候

2026-10-30

现行制度的隐含假设是「执行者是人」。当执行者变成 Agent,权限、审计与追责这三套制度必须重设,否则组织会失去控制。

所有现行的组织制度,都建立在一个隐式前提上:干活的是人。

因为干活的是人,所以要有岗位职责、要有审批流程、要有绩效考核、要有人来担责。

当干活的人变成 Agent,这四样东西同时失效了——不是不好用了,是失去了对象。

失效得最彻底的是追责

一个 Agent 按规则执行,结果出错了。

问题来了:

  • 惩罚 Agent?它没有利益,没有痛感,惩罚不了
  • 惩罚写规则的人?他可能只是照搬了公司流程
  • 惩罚用它的人?他可能根本不知道那个 Agent 内部怎么想的

最终没有人担责,因为责任链条上出现了一个不能承担的环节。

很多企业上 AI 的第一年就撞上这个问题。处理方式通常是「先不追究」——但「不追究」不是制度,是拖延。等出了大事,还是得回答这个问题。

三套必须重设的制度

我的看法是,AI 时代的组织制度,至少要在三个地方重写:

一、准入:谁能用哪个 Agent

传统制度里对应的是「权限」。

但 Agent 的权限比人的权限更微妙——一个能读公司全部文档的 Agent,一个能直接对外发消息的 Agent,一个能修改配置的 Agent,风险等级完全不同。

现在大多数公司对 AI 的准入管理是:给所有人开个账号。这相当于把公司所有系统的钥匙串发给每个员工。

正确做法是按 Agent 划等级,而不是按人划权限。 只读的、能改数据的、能对外发言的,三个等级对应三套审批。

二、审计:过程要怎么留痕

传统制度里,人干活的过程是天然留痕的——邮件、会议、审批流。

Agent 干活的过程是一个黑箱。你说不清它是怎么得出这个结论的。

这不是技术问题,是制度问题:你要在什么粒度上留下记录,才能在事后还原决策过程?

现在常见做法是记录「输入什么、输出什么」。这不够——因为真正的分歧往往在中间。

可操作的做法是:关键决策点必须要求 Agent 输出理由,而且理由要能被验证。 不是「我觉得这样更好」,是「因为 A 指标低于阈值 X,所以选择方案 B」。

三、追责:责任必须显式绑定到人

这是最难的一条,也是最不能绕过的。

前面说了,Agent 不能承担责任。所以每一个 Agent 的产出,必须有一个具体的人被指定为「这个输出的负责人」。

不是部门,不是团队,是一个人。

这个人不一定参与了执行,但他要为结果负责。这听起来不公平——但它是唯一能让系统保持诚实的机制。

没有指定责任人的 Agent,不应该进入业务流程。 这和「没有负责人的项目不该启动」是同一条原则。

一个反直觉的推论

按上面三条推导下去,会出现一个结果:

AI 用得越多,需要的管理人员可能越多。

不是因为管理者要管人,是因为要有人来做三件事:定准入标准、审关键决策、承担最终责任。

这三件事都不能自动化。

所以我不同意「AI 会消灭中层管理」这个说法。更可能发生的是:执行型的管理岗位消失,判断型的管理岗位增加。

我自己的实践

做知一 AI 时,Chief Agent 调度六个专业 Agent。

如果按纯技术逻辑,它应该尽量自主——自己决定派给谁、自己做、自己验收。

我没这么做。我把「验收」这一步单独拎出来,交给人。

理由是:如果系统自己定义什么叫成功,它就会一直成功。

这不是技术保守,是制度设计。任何自我验收的体系,最终都会退化成一个自洽的幻觉。

一点边界

上面讲的是企业内部的制度。

放到社会上,问题会更大:当 AI 做的决策影响到具体的人(医疗、信贷、招聘),追责制度不只是企业内部的事。

这部分我没有答案,只能指出问题的形状:现有的法律体系,也是建立在「责任主体是人」这个前提上的。

最后

技术界喜欢讨论能力边界。但真正的麻烦往往不在能力,在制度。

一项能力成熟,可能需要三年;一套制度成熟,可能需要三十年。

而在这中间的窗口期,所有风险都由那些「急着用」的组织承担。

慢一点,把制度补上,不是保守,是唯一安全的路径。