一个名为 `tinyworldformer` 的新项目展示了一个紧凑的世界模型，能够直接在低成本微控制器 Raspberry Pi Pico 2 W 上生成并运行游戏。该系统利用两个小型神经网络：一个是世界模型，根据当前状态和动作预测下一帧和奖励；另一个是 Actor 网络，根据生成的帧选择动作。通过在带有浮点运算单元 (FPU) 的微控制器上运行这些模型，该项目探索了在极度受限的硬件上运行复杂生成任务的极限。
此视觉效果解释了双网络架构，其中世界模型预测帧，而 Actor 网络选择动作。
核心创新在于使用“循环 Transformer”架构。模型不是堆叠多个不同的层，而是使用相同的权重多次应用单个 Transformer 块。这种方法显著降低了内存开销，这对于微控制器至关重要。为了在 Pico 2 W 上保持性能，模型使用了两个循环，以牺牲少量的准确性来换取可行的帧率。世界模型还通过 8 位量化 (QAT) 进行了进一步优化，其中权重和激活值被压缩为 `int8`，同时保留范数和嵌入在 `float32` 中，以利用芯片的 FPU。这使得模型能够放入设备的 520 KB SRAM 中。
该项目支持多种游戏，包括 Breakout、Flappy Bird 以及被称为“Doom-lite”的射线投射第一人称视角。对于像 Pac-Man 这样更复杂的环境，模型需要更多的参数（高达 131k）和更多的循环才能达到高准确度。一个显著的技术挑战涉及确保模型的输出保持确定性和逻辑一致性；例如，开发人员实施了“全局单例”规则，以确保像 Breakout 中的球这样的物体仅被渲染一次。虽然世界模型可以“梦见”新的场景，但该项目还包含一个流式强化学习代理，可以在这些梦境环境中学习如何游戏，为高级过程生成奠定了基础。
这展示了该项目在微控制器上生成和运行 Breakout 的能力。
这展示了 tinyworldformer 项目支持的更复杂的“Doom-lite”环境。
这展示了 tinyworldformer 系统支持的主要游戏之一。