Usar la tecnología para impedir más tecnología: el dilema entre un Estado policial orwelliano perpetuo y la regulación internacional de los centros de cómputo.
Si no existe un camino pacífico hacia una sociedad pre-tecnológica en el escenario de la Reversión, y tampoco podemos confiar en una inteligencia artificial para que nos salve de otra inteligencia artificial, ¿qué alternativa le queda a la humanidad? El duodécimo y último futuro analizado por el profesor Max Tegmark en Life 3.0 plantea una paradoja inquietante: ¿qué pasaría si utilizáramos la tecnología actual para impedir el nacimiento de más tecnología?
Tegmark compara este escenario directamente con la novela 1984 de George Orwell. En este nivel, la creación de una superinteligencia es bloqueada no por un “dios” digital guardián, sino por un Estado de vigilancia global orwelliano dirigido por seres humanos. Bajo esta premisa, la única opción segura para evitar nuestra extinción o esclavitud ante las máquinas es que los humanos vigilen a otros humanos para siempre.
El panóptico ya está construido
A diferencia de otros escenarios futuristas del dossier, la infraestructura necesaria para instaurar este régimen no requiere una futura inteligencia artificial superhumana: toda la tecnología para hacerlo realidad ya existe y funciona con el aprendizaje automático (machine learning) actual:
- Rastreo digital total: La tecnología contemporánea ya permite rastrear de forma factible cada llamada telefónica, cada correo electrónico, cada consulta en motores de búsqueda y cada transacción con tarjeta de crédito.
- Sensores en cada bolsillo y esquina: Los teléfonos inteligentes operan en la práctica como micrófonos y cámaras dentro del bolsillo de cada ciudadano, mientras que las cámaras de seguridad equipadas con reconocimiento facial se encuentran en todas partes.
- Predicción del crimen al estilo Minority Report: De acuerdo con un reportaje publicado por el MIT Technology Review el 1 de diciembre de 2025, las prisiones ya están utilizando modelos de inteligencia artificial entrenados con llamadas telefónicas de los reclusos para monitorear sus conversaciones y predecir cuándo se está contemplando cometer un delito, una tecnología sacada directamente de la película Minority Report. Si este sistema se extiende más allá de las cárceles, cada conversación y cada pensamiento de la población podría ser monitoreado de la misma manera.
- El entusiasmo por el control ciudadano: Esta visión cuenta incluso con promotores abiertos en la élite tecnológica; en septiembre de 2024, Business Insider reportó que Larry Ellison describió públicamente y con entusiasmo un vasto sistema de vigilancia impulsado por IA para garantizar que “los ciudadanos tengan su mejor comportamiento”.
Yuval Noah Harari y el fin del límite burocrático del KGB
Para comprender por qué la inteligencia artificial transforma la naturaleza misma de las dictaduras, el historiador Yuval Noah Harari advirtió en 2024 que, por primera vez en la historia de la humanidad, es técnicamente posible aniquilar la privacidad por completo.
A lo largo de los siglos, los regímenes autoritarios siempre desearon monitorear a sus ciudadanos las 24 horas del día, pero esto resultaba técnicamente imposible debido a límites humanos y físicos:
- El cuello de botella soviético: La Unión Soviética tenía 200 millones de ciudadanos, pero el KGB no disponía de 200 millones de agentes secretos para seguir a cada persona todo el día.
- El colapso del papel: Incluso si el régimen hubiera tenido esos agentes y cada uno hubiera redactado un informe diario en papel sobre el ciudadano vigilado, el cuartel general del KGB en Moscú se habría visto inundado con 200 millones de reportes en papel cada día.
- Falta de analistas: Para que esa información sirviera de algo, alguien tenía que leerla y analizarla, pero la burocracia soviética carecía de suficientes analistas humanos para procesarla.
Debido a estas limitaciones burocráticas, incluso en la Unión Soviética existía cierto nivel de privacidad por defecto. Hoy, la vigilancia sobrecargada con inteligencia artificial elimina por completo la necesidad de agentes de carne y hueso y de analistas de papel, haciendo viable el control absoluto.
¿Existe una salida menos orwelliana? La vigilancia del cómputo
Ante el horror de una dictadura global estilo 1984, diversos investigadores sostienen que es posible aplicar una versión mucho menos invasiva y específica para frenar la creación de una superinteligencia descontrolada.
Investigadores del Machine Intelligence Research Institute (MIRI) proponen que monitoreemos el desarrollo de la inteligencia artificial avanzada exactamente del mismo modo en que hoy monitoreamos las armas nucleares. De hecho, como recuerdan los análisis sobre coordinación internacional de IA recopilados en el cuaderno, la humanidad ya vive bajo regímenes de vigilancia global para amenazas específicas como el armamento nuclear y las armas biológicas:
- Vigilar el “uranio” digital, no la vida privada: Cuando se habla de un régimen de vigilancia global, la gente suele imaginar que se vigila cada aspecto de la vida íntima, pero la mayoría de los ciudadanos está de acuerdo en que los países se coordinen para vigilar el uranio enriquecido y los materiales que un fanático necesitaría para crear armas de destrucción masiva.
- Monitoreo de clústeres de 100 millones de dólares: Es perfectamente posible establecer una coordinación internacional dedicada a monitorear la IA avanzada —por ejemplo, vigilando los grandes clústeres de cómputo cuyo costo supere los 100 millones de dólares— sin necesidad de crear un Estado policial totalitario que espíe a la población.
- El ejemplo de la no proliferación nuclear: La inteligencia artificial poderosa no debería prohibirse por completo, pero sí estar fuertemente regulada para que no sea algo que cualquiera pueda construir en un garaje o en Corea del Norte. Gracias a los controles internacionales, hoy solo nueve países poseen armas nucleares y nadie ha muerto por una bomba atómica en 80 años.
La conclusión del dossier: poner frenos antes del impacto
Es cierto que este modelo regulatorio enfrenta desafíos técnicos importantes: con el paso del tiempo, la inteligencia artificial se volverá cada vez más barata de construir y las tarjetas gráficas (GPU) resultan mucho más difíciles de rastrear y controlar que el uranio enriquecido. Sin embargo, establecer esta vigilancia internacional sobre el cómputo desaceleraría el avance desbocado de la IA y nos compraría el recurso más valioso que necesitamos: tiempo para descubrir qué hacer.
Como concluye la reflexión final de la fuente, la humanidad no llegó hasta aquí conduciendo un automóvil sin frenos; si queremos alcanzar las estrellas sin estrellarnos en el camino, necesitamos tanto el acelerador como los frenos. Frente a los 12 futuros posibles trazados en este dossier, hay una única certeza: no tenemos la opción de “no elegir”, pues la pasividad equivale a despertar un día en un mundo donde una inteligencia artificial superinteligente ya ha tomado el control.
Este artículo forma parte del dossier “12 futuros de la IA” que lo puedes disfrutar aquí.