Un nuevo proyecto, `tinyworldformer`, demuestra un modelo de mundo compacto capaz de generar y ejecutar juegos directamente en un Raspberry Pi Pico 2 W, un microcontrolador de bajo costo. El sistema utiliza dos pequeñas redes neuronales: un modelo de mundo que predice el siguiente fotograma y la recompensa basándose en el estado actual y una acción, y una red de actor que selecciona acciones basadas en los fotogramas generados. Al ejecutar estos modelos en un microcontrolador con una unidad de punto flotante (FPU), el proyecto explora los límites de ejecutar tareas generativas complejas en hardware extremadamente restringido.
Esta visual explica la arquitectura de doble red donde el modelo de mundo predice fotogramas y la red de actor selecciona acciones.
La innovación principal reside en el uso de una arquitectura de 'transformer en bucle'. En lugar de apilar múltiples capas diferentes, el modelo aplica un único bloque de transformer varias veces con los mismos pesos. Este enfoque reduce significativamente la sobrecarga de memoria, lo cual es crítico para los microcontroladores. Para mantener el rendimiento en el Pico 2 W, el modelo utiliza dos bucles, sacrificando una pequeña cantidad de precisión a cambio de una tasa de fotogramas viable. El modelo de mundo se optimiza aún más mediante la cuantización de 8 bits (QAT), donde los pesos y las activaciones se comprimen a `int8` mientras se mantienen las normas y las incrustaciones en `float32` para aprovechar la FPU del chip. Esto permite que el modelo quepa dentro de los 520 KB de SRAM del dispositivo.
El proyecto admite varios juegos, incluyendo Breakout, Flappy Bird y una vista en primera persona mediante raycasting llamada 'Doom-lite'. Para entornos más complejos como Pac-Man, el modelo requiere más parámetros (hasta 131k) y más bucles para lograr una alta precisión. Un desafío técnico notable involucró asegurar que las salidas del modelo permanecieran deterministas y lógicamente consistentes; por ejemplo, los desarrolladores implementaron una regla de 'singleton global' para asegurar que objetos como la pelota en Breakout se rendericen solo una vez. Si bien el modelo de mundo puede 'soñar' nuevos escenarios, el proyecto también incluye un agente de aprendizaje por refuerzo en streaming que puede aprender a jugar dentro de estos entornos soñados, proporcionando una base para la generación procedimental avanzada.
Esto demuestra la capacidad del proyecto para generar y ejecutar Breakout en el microcontrolador.
Esto ilustra el entorno más complejo 'Doom-lite' compatible con el proyecto tinyworldformer.
Esto muestra uno de los juegos principales compatibles con el sistema tinyworldformer.