El escenario donde la humanidad se extingue por su propia mano antes de llegar a crear una IA superhumana, y por qué las máquinas alteran todas las ecuaciones de supervivencia.
Si la idea de que la humanidad pueda extinguirse repentinamente parece exagerada, la historia biológica ofrece un recordatorio contundente: el 99,9% de todas las especies que han existido alguna vez en la Tierra se han extinguido. La única incógnita real es cuándo nos tocará a nosotros. Incluso antes de que una inteligencia artificial superhumana entre en escena, nuestra civilización ya ha desarrollado múltiples formas de aniquilarse a sí misma, entre las que destacan la guerra nuclear, las superpandemias creadas por el hombre y la destrucción de la atmósfera hasta volver el planeta inhabitable.
Durante la Guerra Fría, la humanidad demostró su capacidad para avanzar a ciegas hacia el abismo al construir más de 60.000 ojivas nucleares, llegando a acumular unas 63.000, antes de que los científicos descubrieran siquiera la posibilidad del “invierno nuclear”. Solo después de fabricar ese arsenal, los investigadores comprendieron que si realmente se utilizaban esas bombas, las tormentas de fuego resultantes bloquearían la luz del sol, provocando que la mayoría de los seres humanos murieran de hambre.
Lo más inquietante de la era atómica es que el apocalipsis estuvo a punto de ocurrir en múltiples ocasiones, y la civilización se salvó únicamente por la suerte o el coraje de héroes individuales en docenas de incidentes cercanos al desastre registrados en la historia:
- La Crisis de los Misiles en Cuba: El oficial soviético Vasili Arkhipov se negó a autorizar el lanzamiento de un torpedo nuclear desde su submarino, evitando potencialmente el estallido de una guerra nuclear global.
- La falsa alarma de 1983: Stanislav Petrov intuyó correctamente que su sistema de alerta temprana estaba funcionando mal cuando las pantallas mostraron misiles estadounidenses entrantes, decidiendo no activar el contraataque soviético.
- El incidente de Palomares (1966): Estados Unidos dejó caer accidentalmente cuatro bombas termonucleares sobre territorio español tras una colisión aérea.
- El accidente de Goldsboro (1961): Un bombardero B-52 se desintegró en el aire y dejó caer dos bombas nucleares sobre Carolina del Norte. En una de esas bombas fallaron tres de los cuatro mecanismos de seguridad; el mundo estuvo literalmente a un solo pasador diminuto de distancia de una detonación que habría matado potencialmente a millones de personas.
A pesar de este historial atómico al filo de la navaja, las armas nucleares ya no encabezan la lista de peligros existenciales. En su libro The Precipice: Existential Risk and the Future of Humanity (2020), el profesor de la Universidad de Oxford Toby Ord estima que el riesgo de extinción derivado de pandemias creadas por el hombre es más de 30 veces superior al riesgo de extinción por una guerra nuclear.
Sin embargo, el dato más revelador del análisis de Ord cambia por completo la perspectiva del dossier: todos los riesgos de extinción causados por el ser humano combinados siguen siendo menos probables que la extinción provocada por la inteligencia artificial. Específicamente, el investigador de Oxford calcula que el riesgo de que la IA mate a todos los humanos es 100 veces más probable que la extinción por una guerra nuclear.
¿Por qué una Inteligencia Artificial General (AGI) resulta mucho más aterradora e impredecible que las bombas termonucleares? La diferencia radica en la capacidad de cálculo previo y en la proliferación:
- La imposibilidad de calcular el impacto: Antes de realizar la primera prueba nuclear de la historia, los científicos temían que la detonación pudiera incendiar la atmósfera y destruir accidentalmente el mundo, pero pudieron calcular que las probabilidades eran muy bajas porque comprendían suficientemente bien las leyes de la física. Por el contrario, a diferencia de las armas nucleares, no podemos calcular cuán poderosa será una AGI una vez que la activemos.
- Proliferación descontrolada: Mientras que los arsenales nucleares requieren infraestructuras estatales masivas, con la proliferación actual de modelos de código abierto (open-source) podrían activarse miles de AGI de manera simultánea, y cuantas más se activen, mayor será la probabilidad de que una sola de ellas destruya el mundo.
En suma, la humanidad lleva décadas lanzando los dados a diario frente a amenazas capaces de borrar nuestra especie, pero la transición hacia la superinteligencia introduce un riesgo cien veces mayor donde las matemáticas de contención simplemente dejan de funcionar.
Este artículo forma parte del dossier “12 futuros de la IA” que lo puedes disfrutar aquí.