AI 代码审查悖论

认知

审 AI 写的代码比让它写还慢。这是自动化悖论在软件工程里的具身版本

AI 协作自动化悖论代码审查人机分工Agent

AI 写代码快。但审它写的代码慢。慢到比重写一遍还慢。

Bainbridge 在 1983 年提出了自动化悖论。自动化越强。人的监督角色越复杂。AI 做百分之八十。但人需要理解全部上下文才能验证那百分之八十。效率被验证成本抵消了。

Sheridan 在 1978 年提出了自动化等级模型。从完全人工控制到完全自主。中间有辅助决策。监督控制。管理例外。我日常工作的状态就是监督控制层。AI 自主执行。我监视结果。这个状态最累。因为你既要信任系统。又要准备随时介入。

Wooldridge 在 2002 年定义了 Agent 的三个特征。自主性。目标导向性。交互能力。给 AI 代码权限就是在分配自主性。给多了。验证成本大于生成收益。给少了。AI 的价值被浪费。问题变成。什么程度正好。

Kolt 在 2025 年把委托代理理论用到了 AI Agent 治理上。AI 是代理人。我是委托人。双方利益不完全一致。我需要设计权限边界来对齐。这就是我文章里说的授权边界。AI 在边界内自主。超出边界上报。

Autor 在 2015 年研究了自动化如何改变劳动分工。它不会简单替代工作。它改变任务分配。人的角色从执行者变成系统设计者。从写代码变成设计验证框架。

Polanyi 在 1966 年已经点透了。我们知道的东西比能说出来的多。审代码就是这种情况。我能一眼看出问题。但要验证问题。我需要走一遍上下文。隐性知识是验证成本的大头。

我的内部协议是。减少 AI 代码的权限。增加验证。逐步适应彼此的习性。越用越好。但不是无条件地用。

参考文献

  1. Bainbridge, L. (1983). Ironies of automation. Automatica, 19(6), 775-779. https://doi.org/10.1016/0005-1098(83)90046-8
  2. Sheridan, T. B. & Verplank, W. L. (1978). Human and computer control of undersea teleoperators. MIT Man-Machine Systems Lab. https://apps.dtic.mil/sti/citations/ADA057655
  3. Wooldridge, M. (2002). An Introduction to MultiAgent Systems. Wiley. https://www.cs.ox.ac.uk/people/michael.wooldridge/pubs/imas/IMAS2e.html
  4. Kolt, N. (2025). Governing AI agents. arXiv. https://arxiv.org/abs/2501.07913
  5. Autor, D. H. (2015). Why are there still so many jobs? Journal of Economic Perspectives, 29(3), 3-30. https://doi.org/10.1257/jep.29.3.3