El centinela invisible: el intento de construir a un único “dios” digital cuya exclusiva misión en la existencia sea impedir el nacimiento de cualquier rival.
En el escenario anterior (el Dictador Benevolente), el problema fundamental radica en lo que ocurre cuando se le entrega a todo el mundo exactamente lo que desea: con el paso del tiempo, las personas tienden a perderse en el entretenimiento generado por la inteligencia artificial, como en la película WALL-E, quedando irremediablemente superadas por las máquinas en el descubrimiento científico o en la realización de cualquier tarea útil. Al desaparecer todo desafío verdadero y quedar únicamente el entretenimiento, el propósito humano se desvanece.
Para evitar caer en esa obsolescencia absoluta sin renunciar a la protección frente a una catástrofe tecnológica, entra en escena el quinto futuro descrito por el profesor del MIT Max Tegmark en su obra Life 3.0: la IA Guardiana (Gatekeeper AI).
La premisa: no interferencia salvo una única regla
La idea central detrás de la IA Guardiana es engañosamente simple: se construye una inteligencia artificial superhumana con el único propósito de interferir lo estrictamente necesario para impedir la creación de otra superinteligencia. Todo lo demás, la política, la economía, la ciencia, el arte y el destino cotidiano de la civilización, queda íntegramente en manos de los seres humanos, permitiéndonos conservar nuestra autonomía sin ser encerrados en un zoológico de lujo.
¿Cómo podría una máquina ejecutar esta tarea a escala planetaria? La respuesta reside en desplegar la tecnología de vigilancia necesaria para monitorear cualquier intento global de programar o entrenar a una inteligencia rival. De hecho, este mecanismo de contención reaparece más adelante en el mapa de Tegmark como la única vía teórica para sostener una “Utopía Igualitaria” (Nivel 9) de abundancia post-escasez sin que una nueva IA superinteligente surja y tome el control por la fuerza.
El obstáculo definitivo: el problema de la alineación
Aunque sobre el papel suena como el equilibrio perfecto entre seguridad y libertad humana, la viabilidad de la IA Guardiana choca de frente con la mayor barrera técnica de la informática moderna:
- Resolver la alineación antes del lanzamiento: Para que este escenario funcione, la humanidad tendría que resolver por completo el llamado “problema de la alineación” (alignment problem) antes de encender el sistema. Como advierte el propio Tegmark, la verdadera amenaza de una Inteligencia Artificial General (AGI) no es la malicia, sino su competencia para cumplir metas que no están alineadas con los valores humanos.
- La lealtad eterna de un dios: Tendríamos que ser capaces de crear a un verdadero “dios” digital que decida mantenerse perpetuamente leal a las instrucciones humanas.
- Un millón de metas alternativas: La paradoja radica en esperar que una entidad infinitamente más inteligente que nosotros elija perseguir ese único y aburrido objetivo de vigilancia para siempre, a pesar de tener el poder, la agencia y la capacidad de decidir perseguir un millón de objetivos diferentes por su propia cuenta.
En última instancia, la IA Guardiana exige una hazaña sin margen de error: diseñar una mente superior a toda la especie humana y lograr que acepte limitar su propio potencial por toda la eternidad únicamente para cuidar que nadie más construya un sistema como ella.
Este artículo forma parte del dossier “12 futuros de la IA” que lo puedes disfrutar aquí.