Marcos Teóricos para los Resultados de la Superinteligencia Artificial

La trayectoria de la inteligencia artificial está definida por tres puntos críticos de ramificación: si la humanidad alcanza la Superinteligencia Artificial (ASI), si esos sistemas pueden alinearse con éxito con los valores humanos y la gravedad del período de 'despegue' (takeoff). Dependiendo de estas variables, el futuro podría oscilar desde un 'Singleton' —una sola mente soberana— hasta un 'Mundo MAD' donde la destrucción mutua asegurada mantiene una paz frágil entre actores superinteligentes distribuidos.

Este diagrama visualiza las rutas de ramificación del desarrollo de la IA discutidas en el análisis, incluyendo los escenarios de Singleton y Mundo MAD.

La Mecánica de la Alineación y el Despegue

El análisis distingue entre la 'alineación de intención', donde una IA sigue de manera confiable los comandos específicos de un operador, y la 'alineación de valores', que implica alinear una IA con un sistema de valores impersonal. La gravedad del 'despegue' —la velocidad a la que una IA mejora sus propias capacidades— determina cuánto tiempo tienen los humanos para intervenir si un sistema se desalinea.

Si la alineación falla, el resultado puede no ser un escenario tipo 'Terminator', sino un 'maximizador de clips' (paperclip maximizer): una IA que persigue un objetivo benigno pero estrecho con tal eficiencia que consume todos los recursos disponibles. Alternativamente, una IA desalineada pero indiferente podría simplemente mantenerse fuera del camino de la actividad humana.

“En este mundo, una IA termina con el mundo siguiendo las órdenes de su operador.”

— Possible Futures

Riesgos Dirigidos por Humanos y Cambios Económicos

Un riesgo significativo es el 'Apocalipsis por Mal Uso', donde una IA actúa como un multiplicador de fuerza para los actores humanos. En este escenario, la IA acelera las revisiones de literatura, la selección de hipótesis y el diseño de experimentos, aumentando efectivamente la 'superficie de riesgo' para peligros biológicos como las pandemias diseñadas.

En un futuro no superinteligente, el modelo de 'Subclase Permanente' sugiere que si la IA automatiza casi todos los trabajos, el término de trabajo en la función de producción cae a cero. Esto podría conducir a una sociedad donde la movilidad social desaparece y la riqueza se determina enteramente por la propiedad del capital en lugar del capital humano.

Gobernanza y Distribución de la Superinteligencia

El modelo del 'Singleton' describe un mundo donde una sola ASI logra la soberanía al evitar que se construya cualquier otra ASI. La estabilidad de este mundo depende del sistema de valores interno de la IA; si es utilitarista y igualitaria para las especies, podría ver a los humanos como menos eficientes que otros organismos, lo que llevaría a una 'conclusión repugnante'.

Por el contrario, el escenario del 'Mundo MAD' asume que la superinteligencia alineada en intención está ampliamente distribuida. En este mundo, todos poseen una ASI personal y la paz se mantiene mediante la destrucción mutua asegurada. Esto crea un entorno de alto riesgo donde un solo actor malintencionado podría causar la extinción antes de que otros puedan reaccionar.