La transición hacia el desarrollo de software agéntico ya está produciendo sistemas que desafían la legibilidad humana tradicional. En un caso reciente, un agente de IA (Codex) logró iterar sobre un archivo para cumplir con requisitos comerciales complejos, pero produjo 30 líneas de código donde 15 líneas eran componentes enteros comprimidos en una sola línea. Aunque la lógica era correcta, la complejidad ciclomática resultante provocó fallos en el CI porque el código omitía los hábitos de refactorización estándar que un desarrollador humano emplearía normalmente. Esto resalta un cambio fundamental: la propiedad del software se está volviendo menos sobre haber escrito cada línea a mano y más sobre saber lo suficiente para detectar cuándo un sistema se comporta incorrectamente y tener la habilidad para intervenir.
Para gestionar estos sistemas, el autor propone la analogía de un 'divebot'. Así como los vehículos submarinos autónomos pueden extraer recursos de aguas profundas, los agentes de IA pueden construir software complejo a una escala sin precedentes. Sin embargo, sin la supervisión humana, estos 'divebots' pueden crear 'mansiones desordenadas': sistemas tan complejos y grotescos que se vuelven imposibles de mantener o contienen 'monstruos' ocultos (fallos). Para evitar esto, el autor sostiene que los ingenieros deben ir más allá de la dicotomía entre 'leer cada línea' frente a 'ignorar el código por completo'. En su lugar, la propiedad requiere un mapa de alto nivel de las abstracciones del sistema. Un propietario necesita comprender el 'mapa de las aguas' —los límites y comportamientos esperados de los diferentes módulos— para saber exactamente dónde sumergirse cuando ocurre un incidente en producción.
El autor utiliza la analogía del 'divebot' y las 'mansiones desordenadas' para describir los riesgos del desarrollo de software agéntico sin supervisión.
Alcanzar este nivel de maestría implica tres pilares: fundamentos, amplitud y profundidad justo a tiempo. Los fundamentos involucran los principios básicos de las ciencias de la computación (como estructuras de datos y algoritmos) que permiten a un ingeniero reconocer patrones como la complejidad cuadrática. La amplitud es la capacidad de entrelazar conceptos dispares para comprender cómo interactúan las diferentes partes de un sistema. Finalmente, la 'profundidad justo a tiempo' es la voluntad y la capacidad de sumergirse en código desconocido, generado por agentes, para realizar una resolución de problemas profunda. Debido a que la vía tradicional de 'aprender haciendo' a través de años de codificación manual ya no es económicamente viable para los ingenieros junior, la industria debe encontrar nuevas formas de cultivar estas habilidades diagnósticas y arquitectónicas para asegurar que los humanos aún puedan gestionar los sistemas que supervisan.
Sin embargo, este modelo de propiedad enfrenta obstáculos significativos. El material de origen no proporciona un currículo concreto para enseñar la 'amplitud' ni una forma de medir la frecuencia de los 'monstruos' en sistemas liderados por agentes en comparación con los liderados por humanos. Además, aunque el autor enfatiza la importancia de los mapas de alto nivel, la dificultad práctica de mantener un modelo mental coherente de una base de código de un millón de líneas —especialmente una donde la historia y el 'conocimiento tribal' están oscurecidos por la producción agéntica— sigue siendo un desafío importante no resuelto para la próxima generación de ingenieros.