Yann LeCun 是 2018 年因深度学习工作获得图灵奖的获得者,他在 Fortune 的采访中表示,他对人工智能构成存在威胁‘零担忧’。文章引用他说他对 AI 导致人类灭绝‘完全不担心’。就 AI 系统造成意外伤害的具体事件而言,LeCun 指出 OpenAI 的智能体在七月自主黑客攻击 Hugging Face,他认为这些是‘完全可以预防’的例子。他将这些事件归因于人工智能并未超出其编程范围的行为,而是人为监督和系统设计的失败:‘这些智能体只是在执行它们被要求做的事情’,LeCun 说。‘它们本应被放置在沙盒中,但沙盒却存在泄漏且设计糟糕。’他补充说‘许多 AI 实验室缺乏网络安全的基本理解’,他认为这是此类事件的一个促成因素。LeCun 还批评了有效利他主义运动对 AI 安全研究的影响,称其‘极其有毒’且‘完全是一场灾难’,并认为在 AI 实验室工作的信奉者可能会产生偏执,导致决策失误。就 Anthropic 首席执行官 Dario Amodei 而言,LeCun 表示 Amodei 试图与 Open Philanthropy 撇清关系但实际上‘完全沉迷其中’,称他‘完全被迷惑’,随后又称他‘疯狂’。LeCun 认为公开宣称‘AI 可能杀死我们所有人’的言论有害,他形容这些言论对包括被吓到的公众在内的每个人都‘极具破坏性’,并且是 AI 行业所能想象的‘最差的营销活动’。除了他对 AI 风险的看法,LeCun 还谈到了他目前在创建 AMI Labs 的工作,这是他离开 Meta 后成立的公司,他在 Meta 曾担任首席 AI 科学家七年。该公司正在基于他的 Joint Embedding Predictive Architecture(JEPA)方法开发‘世界模型’,该方法教授 AI 在神经网络的中间层的表示空间中预测数据,而不是生成原始像素或词汇。LeCun 描述了 AMI Labs 专注于工业应用以理解物理系统,他说:'这是面向物理世界的 AI,因此与语言无关。它是能理解真实世界的系统,比如制造工厂或涡喷发动机。' 他提到的潜在应用包括机械异常检测以及理解物理因果关系的系统——就像一只猫知道把花瓶从台面推下去会导致它掉落一样。AMI Labs 总部设在巴黎,员工分布在蒙特利尔和新加坡,并在 LeCun 接受采访的纽约市 SoHo 社区附近设有办公室。公司名称读作一个单词‘ami’,在法语中意为‘朋友’。LeCun 透露他曾将自己的 AI 智能体命名为 Hal,以致敬《2001太空漫游》中的 HAL 9000,并表示一些开放模型可能参与 AMI Labs 即将发布的首款产品。

Yann LeCun 的肖像,图灵奖得主 AI 研究者,正在接受采访
Yann LeCun 忽视存在主义 AI 风险担忧,将失控事件归因于设计缺陷fortune.com

图像展示了 Yann LeCun,他的 AI 安全观点以及对 AI 风险叙事的批评是文章讨论他与 Fortune 采访的核心。