Incidentes recientes de gran repercusión, incluyendo una interrupción global de Microsoft de dos días y la vulnerabilidad PHP2Shell, resaltan una tendencia creciente de fallos sistémicos de software. Estos eventos sugieren que el problema ya no se trata solo de errores individuales, sino de una ruptura fundamental en la forma en que se construye y mantiene el software moderno.

La mecánica del fallo sistémico

La interrupción de Microsoft y la vulnerabilidad PHP2Shell ilustran cómo los sistemas complejos pueden fallar incluso cuando las partes individuales parecen estables. En el caso de Microsoft, un fallo en la configuración de la red provocó un colapso en cascada donde los servicios no pudieron restaurarse a un estado válido.

La vulnerabilidad PHP2Shell, descubierta por Wiz, demostró cómo errores ocultos de contabilidad de memoria en el entorno de ejecución de PHP podrían ser explotados por herramientas de IA para ejecutar código arbitrario. Esto resalta un sistema dependiente de una larga cadena de dependencias donde las vulnerabilidades son demasiado complejas para la supervisión humana.

“Decoherencia: la acumulación de modelos localmente válidos pero mutuamente incompatibles o redundantes dentro de un sistema, de tal manera que el coste del cambio está dominado por la traducción entre esos modelos y la prevención de efectos secundarios no deseados.”

— Software is breaking down at a systemic level | Jimmy Breck-McKye

El cambio de la artesanía al consumo

El desarrollo de software ha pasado de ser una forma de arte 'artesanal' a un modelo de ensamblaje rápido utilizando computación en la nube y bibliotecas de código abierto. Si bien herramientas como NPM permiten a los desarrolladores reutilizar código escrito por extraños, esto obliga a un compromiso: los desarrolladores ganan velocidad pero pierden el control granular sobre los componentes de sus sistemas.

Este cambio ha aplanado la fuerza laboral de ingeniería, alejándose de los roles especializados hacia los generalistas. Este cambio en el equilibrio de poder entre los trabajadores y la dirección puede dificultar que aquellos más cercanos al trabajo den la voz de alarma cuando comienzan a surgir problemas sistémicos.

La trampa de la decoherencia de la IA

El uso generalizado de agentes de IA para generar código introduce un fenómeno llamado 'decoherencia'. Esta es la acumulación de modelos localmente válidos pero mutuamente incompatibles dentro de un sistema, donde el coste del cambio está dominado por la prevención de efectos secundarios no deseados.

A medida que los ingenieros dependen cada vez más de la IA para manejar desde las pruebas unitarias hasta el diseño de alto nivel, corren el riesgo de una forma de 'indefensión aprendida'. El resultado es un tsunami de cambios pequeños e incoherentes que parecen racionales individualmente pero pierden sentido en su conjunto, lo que potencialmente conduce a una pérdida de la cognición organizacional.

Incertidumbres y cronogramas en disputa

La narrativa de la decadencia del software no está exenta de debate respecto a su contexto histórico. Si bien el autor identifica la última década como un punto de inflexión para las revoluciones de la nube y el código abierto, algunos observadores sostienen que estas tecnologías han sido de grado de producción durante mucho más tiempo.

Además, la gravedad de estos fallos es objeto de debate; algunos argumentan que incidentes como la interrupción de Microsoft son errores de configuración causados por humanos en lugar de pruebas de un colapso sistémico fundamental. La pregunta central sigue siendo si estos problemas son consecuencias inevitables de la escala o si son resolubles mediante mejores prácticas de ingeniería.

El riesgo de la intención perdida

El riesgo último de la decadencia sistémica es un escenario en el que nada en el sistema de software se hace con intención humana. Cuando cada paso —desde el ticket de negocio hasta la última línea de código— es resumido, generado y refinado por IA, el papel humano se desplaza hacia el 'ajuste de prompts' en lugar de la ingeniería de soluciones.

Esto crea un ciclo en el que la complejidad se genera más rápido de lo que puede ser domesticada. Si el sistema pierde su capacidad de ser comprendido por cualquier ser humano individual, la capacidad de responder y repararlo durante una crisis se vuelve cada vez más difícil.

Qué dicen los lectores de Hacker News

  • Escéptico: Un comentarista argumentó que el cronograma del autor es inexacto, señalando que la computación en la nube y la revolución del código abierto precedieron a la ventana de 10 años mencionada en el artículo. comentario ↗
  • Experiencia: Un comentarista que utiliza IA para actualizaciones de infraestructura informó de una paradoja donde los agentes de IA fallan con menos frecuencia que los humanos pero causan más incidentes en general porque operan a velocidades mucho más altas. comentario ↗
  • Escéptico: Varios comentaristas sugirieron que el artículo es hiperbólico, señalando que muchas de las vulnerabilidades citadas existieron mucho antes del auge de la IA y que el software siempre ha sido una compleja red de abstracciones. comentario ↗
  • Alternativa: Un comentarista sugirió que, en lugar de causar decoherencia, los LLM podrían utilizarse para transformar el código heredado desordenado en sistemas con interfaces y reglas más claramente definidas para mejorar la robustez. comentario ↗

Resumen de opiniones del hilo de Hacker News; no son hechos verificados. Leer el debate completo ↗