AI 制度设计:当执行者不再是人的时候
现行制度的隐含假设是「执行者是人」。当执行者变成 Agent,权限、审计与追责这三套制度必须重设,否则组织会失去控制。
所有现行的组织制度,都建立在一个隐式前提上:干活的是人。
因为干活的是人,所以要有岗位职责、要有审批流程、要有绩效考核、要有人来担责。
当干活的人变成 Agent,这四样东西同时失效了——不是不好用了,是失去了对象。
失效得最彻底的是追责
一个 Agent 按规则执行,结果出错了。
问题来了:
- 惩罚 Agent?它没有利益,没有痛感,惩罚不了
- 惩罚写规则的人?他可能只是照搬了公司流程
- 惩罚用它的人?他可能根本不知道那个 Agent 内部怎么想的
最终没有人担责,因为责任链条上出现了一个不能承担的环节。
很多企业上 AI 的第一年就撞上这个问题。处理方式通常是「先不追究」——但「不追究」不是制度,是拖延。等出了大事,还是得回答这个问题。
三套必须重设的制度
我的看法是,AI 时代的组织制度,至少要在三个地方重写:
一、准入:谁能用哪个 Agent
传统制度里对应的是「权限」。
但 Agent 的权限比人的权限更微妙——一个能读公司全部文档的 Agent,一个能直接对外发消息的 Agent,一个能修改配置的 Agent,风险等级完全不同。
现在大多数公司对 AI 的准入管理是:给所有人开个账号。这相当于把公司所有系统的钥匙串发给每个员工。
正确做法是按 Agent 划等级,而不是按人划权限。 只读的、能改数据的、能对外发言的,三个等级对应三套审批。
二、审计:过程要怎么留痕
传统制度里,人干活的过程是天然留痕的——邮件、会议、审批流。
Agent 干活的过程是一个黑箱。你说不清它是怎么得出这个结论的。
这不是技术问题,是制度问题:你要在什么粒度上留下记录,才能在事后还原决策过程?
现在常见做法是记录「输入什么、输出什么」。这不够——因为真正的分歧往往在中间。
可操作的做法是:关键决策点必须要求 Agent 输出理由,而且理由要能被验证。 不是「我觉得这样更好」,是「因为 A 指标低于阈值 X,所以选择方案 B」。
三、追责:责任必须显式绑定到人
这是最难的一条,也是最不能绕过的。
前面说了,Agent 不能承担责任。所以每一个 Agent 的产出,必须有一个具体的人被指定为「这个输出的负责人」。
不是部门,不是团队,是一个人。
这个人不一定参与了执行,但他要为结果负责。这听起来不公平——但它是唯一能让系统保持诚实的机制。
没有指定责任人的 Agent,不应该进入业务流程。 这和「没有负责人的项目不该启动」是同一条原则。
一个反直觉的推论
按上面三条推导下去,会出现一个结果:
AI 用得越多,需要的管理人员可能越多。
不是因为管理者要管人,是因为要有人来做三件事:定准入标准、审关键决策、承担最终责任。
这三件事都不能自动化。
所以我不同意「AI 会消灭中层管理」这个说法。更可能发生的是:执行型的管理岗位消失,判断型的管理岗位增加。
我自己的实践
做知一 AI 时,Chief Agent 调度六个专业 Agent。
如果按纯技术逻辑,它应该尽量自主——自己决定派给谁、自己做、自己验收。
我没这么做。我把「验收」这一步单独拎出来,交给人。
理由是:如果系统自己定义什么叫成功,它就会一直成功。
这不是技术保守,是制度设计。任何自我验收的体系,最终都会退化成一个自洽的幻觉。
一点边界
上面讲的是企业内部的制度。
放到社会上,问题会更大:当 AI 做的决策影响到具体的人(医疗、信贷、招聘),追责制度不只是企业内部的事。
这部分我没有答案,只能指出问题的形状:现有的法律体系,也是建立在「责任主体是人」这个前提上的。
最后
技术界喜欢讨论能力边界。但真正的麻烦往往不在能力,在制度。
一项能力成熟,可能需要三年;一套制度成熟,可能需要三十年。
而在这中间的窗口期,所有风险都由那些「急着用」的组织承担。
慢一点,把制度补上,不是保守,是唯一安全的路径。