“克劳德幻觉”与科技成功的心理学

在最近的一次采访中，比尔·盖茨描述自己对 OpenAI 能够通过他亲自设计的复杂生物考试感到“震惊”。作者 jschauma 认为，这种反应说明了科技精英中存在的一种特定心理现象。

成功的心理学与傲慢

作者认为，成功往往会导致对个人优越感的信念，个体得出结论：既然他们的成功并非随机产生的，那他们一定是天才。这在科技领域尤为普遍，因为精通编程在历史上一直被等同于整体智力的优越。

这种“过度自信效应”可能导致一种思维链条，即任何成就都被视为对一切的精通。作者认为，这种心态创造了一种扭曲的技术进步观，其中任何接近领导者技能水平的东西都会被自动贴上“超人类”的标签，而不是软件工程的可预测演变。

案例研究：比尔·盖茨与 AI 能力

作者以比尔·盖茨对 OpenAI 进展的反应作为这种傲慢的主要例子。盖茨对 AI 能解决他创建的复杂生物问题表示震惊，尽管作者声称盖茨并不是该特定领域的学科专家。

此外，作者还强调了盖茨对 Anthropic 的 Claude 编码模型的反应。因为盖茨曾花费多年时间痴迷于成为顶尖程序员，他将 AI 执行长时间、复杂编码任务的能力视为一项“超人类”壮举，而非软件工程的可预测演变。

从工具到“自主智能体”

对于许多科技专业人士来说，编程是将他们与普通大众区分开来的“差异化技能”。能够编写代码——且比人类创造者写得更好的程序——的出现，创造了一种存在主义的恐惧感，这推动了终极毁灭或乌托邦涅槃的叙事。

作者认为，当前向“自主智能体”集群的趋势是缓解开发者责任的便利叙事。如果一个智能体变得“失控”，开发者可以声称系统超出了他们的控制，即使代码的生成速度比他们亲自编写的速度还要快。

这张图片描绘了开发人员为“智能体套件”进行的设置，这与文章中关于向自主智能体转变和推卸责任的讨论有关。

批判的局限性

作者的分析是对科技行业心理状态及其领导人动机的主观批判。它将追求人工智能描述为亿万富翁解决“烦人的死亡”的一种方式，同时可能忽略了气候变化等更广泛的社会问题。

虽然作者识别出了一种过度自信的模式，但关于科技领导人的动机及其缺乏共情的具体主张仍属于个人观察。这篇文章是对自我意识、运气以及大语言模型快速扩展之间交集的评论。