Nvidia RTX Spark 平台是一种专为本地 AI 开发设计的特殊硬件配置。它采用了独特的统一内存架构——支持在 CPU 和 GPU 之间共享高达 128GB 的内存——并使用了与 Nvidia DGX Spark 台式机相同的 GPU 设计。虽然这些笔记本是面向偏好使用 vLLM 和 SGLang 等 Linux 首选 AI 工具的开发者的,但该硬件目前针对 Windows on ARM 进行了优化,其中包括针对 Nvidia CUDA 堆栈的特定驱动支持。

测试显示,当笔记本连接到墙上电源时,不同操作系统之间存在显著的性能差异。在运行 GPT-OSS-120B 模型的一台机器上,原生 Windows 和 Windows Subsystem for Linux (WSL) 都达到了约 65 tokens 每秒。相比之下,同一硬件上的原生 Linux 安装环境降至 13.9 tokens 每秒。这种减速并非由于热节流引起,因为温度保持在较低水平(40-47°C),而是由于时钟频率崩溃造成的。虽然 GPU 在 Windows 上能保持约 2.2 GHz 的加速频率,但在连接电源时,Linux 系统下的 GPU 频率被锁定在约 780 MHz。

这种性能差距归因于一个名为 Nvidia Platform Controllers and Framework 的仅限 Windows 组件。该固件和驱动逻辑负责管理 CPU 和 GPU 之间的共享功耗预算,这是对于两个芯片共享电源线的笔记本来说必不可少的。该固件提供了一张加密的电源设置表;虽然 Windows 拥有解密此表的密钥,但 Linux 目前没有。有趣的是,当笔记本断开电源时,性能问题会反转:在电池供电时,Linux 性能提升到约 61-67 tokens 每秒,几乎与 Windows 水平持平。在 Nvidia 将平台控制器的电源管理逻辑移植到其 Linux 驱动程序之前,WSL 仍然是最实用的折中方案,因为它继承了 Windows 驱动堆栈在保持全速 GPU 加速的同时提供 Linux 兼容环境的能力。

此配置的一个显著限制是内存管理。笔记本固件默认为 GPU 保留 96GB 的统一内存,而这一划分目前只能通过 Windows 进行调整。尝试运行原生 Linux 的用户必须首先在 Windows 中调整此保留量,以释放足够的内存,使 Linux 环境能够看到超过总容量一小部分的内存。虽然原始资料确认该问题是固件和驱动的差距而非硬件缺陷,但目前尚无确切的时间表说明 Nvidia 何时可能会为这些单元发布兼容 Linux 的电源管理驱动。

一项使用 vLLM 并发八个客户端的特定基准测试进一步突显了这种差异:WSL 达到了 127 tokens 每秒,而原生 Linux 仅达到 39.5。在更长时间的测试中,Windows 在保持 2.2 GHz 时钟频率的情况下约 8 分钟完成了工作负载,而 Linux 在 GPU 停留在 790 MHz 时耗时 37 分钟。这些数字强调了缺失的电源管理逻辑对高吞吐量 AI 工作负载的影响。

一张代表 RTX Spark 笔记本在不同操作系统上性能基准的示意图。
RTX Spark 笔记本的对比性能基准突显了 Windows、WSL 和原生 Linux 环境之间的显著速度差异。www.mindstudio.ai

这张图片展示了基准测试中描述的性能差距,其中原生 Linux 与 Windows 和 WSL 相比经历了严重的降频。

最终,RTX Spark 笔记本目前的现状为开发者创造了一种权衡。虽然原生 Linux 提供纯净的环境,但由于无法访问加密的电源管理表,实际上在连接电源时严重削弱了硬件的性能。就目前而言,寻求 Linux 原生工具和完整硬件性能最佳平衡的开发者被建议转向 WSL,前提是他们需要手动增加默认的 14GB 内存分配以容纳更大的模型。