NVIDIA 于 2026 年 9 月 8 日发布 CUDA Rust,旨在让开发者直接使用 Rust 编写 GPU 内核,而非将其他语言的代码包装后调用。该项目包含两条路径,分别对应 CUDA 自身的编程模型:SIMT(单指令多线程)和 Tile。
该标志出现在原始 NVIDIA 开发者博客文章中,确认了技术来源。
SIMT 路径由 cuda-oxide 实现,这是一个自定义的 rustc 代码生成后端,将 #[kernel] 函数经由 Rust MIR、Pliron IR 框架和 LLVM IR 逐层编译为 PTX。该路径要求 Linux 系统、计算能力 8.0 及以上的 GPU、CUDA 工具包(12.x 或更新版本)、带有 libclang 头文件的 clang,以及固定版本的 nightly Rust 工具链。目前处于早期 alpha 阶段。
Tile 路径由 cutile-rs 提供,基于稳定版 Rust 1.89 或更高版本,搭配 CUDA 13.3 运行,无需自定义 LLVM 安装。cutile-rs 已发布到 crates.io,并已在 HuggingFace 的 Grout 和 mistral.rs 等生产推理引擎中使用。

这张来自 NVIDIA 博客的插图展示了 Tile 编程模型,帮助读者理解线程如何协作处理数据块。
两条路径均在编译时强制内存安全。cuda-oxide 使用 DisjointSlice 类型确保每个线程独占访问自身数据,并通过 #[launch_contract] 属性验证启动配置。cutile-rs 依赖张量分区和所有权保证来确保独占访问,无需特殊类型。
NVIDIA 表示计划支持 CUDA Rust、CUDA C++ 和 CUDA Python 之间的互操作,使前端语言的选择不会将开发者锁定在单一生态系统中。