Al diseñar una biblioteca para cálculos de punto flotante, un desarrollador se encontró con un desafío común: identificar el bit de menor valor establecido en un float. Si bien la manipulación de bits es un enfoque estándar, el algoritmo directo falla para las potencias de dos, lo que requiere una sentencia `if`. En la computación de alto rendimiento, tales ramificaciones pueden degradar el rendimiento al ralentizar los casos comunes y causar predicciones de ramificación erróneas. Para eliminar la ramificación, el desarrollador buscó una única fórmula que pudiera manejar todos los casos automáticamente, pero tuvo dificultades para encontrar manualmente una que fuera convincentemente óptima.
Esta imagen representa el proyecto de superoptimizar un emulador de FPU descubriendo atajos matemáticos no obvios.
En lugar de confiar en el razonamiento manual o en modelos de lenguaje de gran tamaño (LLM), el desarrollador optó por un enfoque de fuerza bruta 'no ortodoxo'. El objetivo era descubrir automáticamente una fórmula iterando a través de todas las combinaciones posibles de operaciones. El espacio de búsqueda se definió mediante un conjunto de operaciones útiles: suma/resta de enteros, AND/OR/XOR bit a bit y resta de punto flotante. Al utilizar un método de búsqueda inductiva, el desarrollador construyó fórmulas comenzando desde cero operaciones y combinándolas en expresiones más grandes. Esto permitió la poda de resultados duplicados —donde diferentes expresiones producían salidas idénticas—, permitiendo que el script completara la búsqueda exhaustiva en solo cuatro minutos.
La búsqueda identificó con éxito varias fórmulas de cinco operaciones. Un resultado particularmente notable fue una fórmula que, aunque parecía ilógica a primera vista, logró evitar el problema de la potencia de dos. Curiosamente, el desarrollador descubrió que una de estas fórmulas de cinco operaciones podía optimizarse aún más en una versión de cuatro operaciones reutilizando una subexpresión. Esta reescritura específica involucró una manipulación ingeniosa donde una resta de punto flotante se fusionó con una negación para ahorrar una operación. Este descubrimiento automatizado destacó cómo la búsqueda por fuerza bruta puede revelar atajos matemáticos no obvios que podrían eludir la intuición humana o las optimizaciones estándar del compilador. El código resultante ahora está integrado en un emulador de FPU (Floating Point Unit) en desarrollo.