最近发生的几起高调事件,包括为期两天的全球性Microsoft停机故障和PHP2Shell漏洞,凸显了系统性软件故障日益增长的趋势。这些事件表明,问题不再仅仅是单个漏洞,而是现代软件构建和维护方式的根本性崩溃。
系统性故障的机制
Microsoft的停机故障和PHP2Shell漏洞说明了即使单个部分看似稳定,复杂的系统仍可能发生故障。在Microsoft的案例中,网络配置故障引发了连锁崩溃,导致服务无法恢复到有效状态。
由Wiz发现的PHP2Shell漏洞表明,PHP运行时中隐藏的内存记账漏洞如何被AI工具利用来执行任意代码。这凸显了一个依赖于长链条依赖的系统,其中的漏洞对于人类监督来说过于复杂。
“去相干性:系统中局部有效但相互不兼容或冗余模型的累积,使得变更成本主要由在这些模型之间进行转换以及防止意外副作用所占据。”
— Software is breaking down at a systemic level | Jimmy Breck-McKye
从工艺到消费的转变
软件开发已从一种“手工制作”的艺术形式转变为利用云计算和开源库进行快速组装的模型。虽然像NPM这样的工具允许开发者重用陌生人编写的代码,但这迫使人们做出权衡:开发者获得了速度,但失去了对系统组件的细粒度控制。
这种转变使工程人员队伍变得扁平化,从专业角色转向通用角色。这种工人与管理层之间权力平衡的变化,可能使最接近工作的人在系统性问题开始出现时更难发出警报。
AI的去相干陷阱
广泛使用AI Agent生成代码引入了一种被称为“去相干性”的现象。这是系统中局部有效但相互不兼容模型的累积,其中变更成本主要由防止意外副作用所占据。
随着工程师越来越多地依赖AI来处理从单元测试到高层设计的各项任务,他们面临着一种“习得性无助”的风险。其结果是产生海量的、细小的、去相干的变更,这些变更在个体上看起来是合理的,但作为一个整体却失去了逻辑,可能导致组织认知能力的丧失。
不确定性与争议的周期
关于软件衰败的叙述在历史背景方面并非没有争议。虽然作者将过去十年视为云和开源革命的转折点,但一些观察家认为这些技术早已处于生产级水平。
此外,这些故障的严重程度也存在争议;有人认为像Microsoft停机这样的事件是人为造成的配置错误,而非根本性系统崩溃的证据。核心问题仍然是:这些问题是规模扩张的必然结果,还是可以通过更好的工程实践来解决。
意图丢失的风险
系统性衰败的最终风险是软件系统中没有任何事情是出于人类意图而做的。当从业务单据到最后一行代码的每一步都被AI总结、生成和优化时,人类的角色就从工程解决方案转向了“润色提示词”。
这创造了一个复杂性产生的速度快于其被驯服速度的循环。如果系统失去了被任何单个人类理解的能力,那么在危机期间做出反应并修复它的能力就会变得越来越困难。
Hacker News 读者的反应
- 质疑: 一位评论者认为作者的时间线不准确,指出云计算和开源革命早于文章中提到的10年窗口。 评论 ↗
- 亲身经验: 一位使用AI进行基础设施升级的评论者报告了一个悖论:AI Agent失败的频率低于人类,但由于它们运行速度极快,总体上造成的事故更多。 评论 ↗
- 质疑: 几位评论者认为文章言过其实,指出许多提到的漏洞早在AI兴起之前就已存在,且软件一直都是复杂的抽象网络。 评论 ↗
- 替代方案: 一位评论者建议,与其导致去相干性,不如利用LLM将混乱的遗留代码转换为具有更明确接口和规则的系统,以提高鲁棒性。 评论 ↗
以上为 Hacker News 讨论中观点的摘要,并非经过核实的事实。 阅读完整讨论 ↗
