El fundador de Meta sostiene que el mayor desafío de una futura superinteligencia no será únicamente técnico. En un extenso manifiesto, plantea que ninguna máquina podrá conciliar valores humanos que ya son incompatibles entre sí y propone distribuir el poder de la IA en lugar de concentrarlo en unas pocas compañías o gobiernos.
Durante años, una de las grandes promesas de la inteligencia artificial ha sido la posibilidad de construir sistemas cada vez más capaces y, al mismo tiempo, suficientemente seguros para actuar de acuerdo con los intereses humanos. Mark Zuckerberg cree que esa aspiración parte de un problema difícil de resolver: los seres humanos ni siquiera estamos de acuerdo sobre cuáles son esos intereses.
El director ejecutivo de Meta expuso esa idea en “The Future is for Everyone”, un manifiesto de unas 6.500 palabras publicado el 10 de agosto, en el que describe su visión de una futura “superinteligencia personal” y rechaza que el desarrollo de la IA termine concentrado en un pequeño grupo de empresas, expertos o gobiernos.
Su advertencia es contundente.
“No existe una solución tecnológica que pueda conciliar simultáneamente los intereses y valores opuestos de todos”. — Mark Zuckerberg. (Traducción propia.)
La afirmación, destacada por La Vanguardia, introduce una discusión que trasciende los problemas habituales sobre alucinaciones, errores o sesgos de los modelos actuales. Zuckerberg está planteando que incluso una inteligencia artificial extremadamente avanzada enfrentaría un conflicto esencialmente político: decidir qué valores debe priorizar cuando los seres humanos desean cosas diferentes.
El problema de una IA que decida por todos
En su manifiesto, Zuckerberg cuestiona la idea de que sea posible perfeccionar el llamado “alineamiento” hasta construir una única superinteligencia benevolente capaz de determinar lo que resulta mejor para la humanidad.
Su argumento parte de una premisa sencilla: “la humanidad no es un monocultivo”. Las sociedades contienen diferencias religiosas, políticas, económicas y culturales, y esas diferencias producen respuestas incompatibles sobre cuestiones fundamentales. Una IA suficientemente poderosa tendría inevitablemente que favorecer algunos principios sobre otros.
Por eso, Zuckerberg transforma un problema tecnológico en uno de distribución del poder.
Su alternativa no consiste en encontrar una máquina perfecta, sino en evitar que exista una única máquina —o una única institución— con suficiente autoridad para imponer sus decisiones al resto. Según su planteamiento, múltiples sistemas y actores deberían competir y contrarrestarse de una manera similar a los equilibrios existentes en las instituciones democráticas y las economías de mercado.
El debate sobre la superinteligencia, en la visión de Zuckerberg, no consiste solamente en quién construirá la IA más poderosa, sino en quién tendrá derecho a controlarla.
Meta tiene, naturalmente, un interés empresarial en esa interpretación.
La compañía ha defendido durante años modelos con componentes abiertos y el 10 de agosto presentó Muse Glimmer, un modelo de pesos abiertos diseñado para ejecutar tareas de agentes en computadoras personales. Zuckerberg también anunció planes para liberar los pesos de Muse Spark 1.2 y pidió reducir algunas barreras estadounidenses al desarrollo de modelos abiertos.
Una superinteligencia para cada persona
En lugar de reservar las capacidades más avanzadas para grandes corporaciones, Zuckerberg imagina que cada individuo pueda disponer de un agente de IA extraordinariamente competente, capaz de conocer sus objetivos y ayudarlo en ámbitos como la educación, la creación de empresas, las finanzas o la salud.
Su tesis es que la principal consecuencia de la superinteligencia debería ser la ampliación de las capacidades humanas, y no simplemente la sustitución de trabajadores mediante automatización.
Zuckerberg utiliza varios experimentos mentales para defender esa idea. Si una sola persona tuviera acceso a un abogado superinteligente, sostiene, obtendría una ventaja extraordinaria. Si todos dispusieran de uno, en cambio, el desequilibrio disminuiría. Aplica el mismo razonamiento a la ciberseguridad y a las empresas: una IA extraordinariamente poderosa concentrada en pocas manos otorgaría una ventaja difícil de contrarrestar; distribuida ampliamente, podría convertirse en una herramienta para equilibrar fuerzas.
La propuesta ha encontrado críticos. Anthony Aguirre, presidente del Future of Life Institute, cuestionó que Meta esté concediendo suficiente importancia al riesgo de sistemas más inteligentes y rápidos que sus propios creadores. Matt Lane, de la organización de derechos digitales Fight for the Future, coincidió con la importancia de mantener abierta la IA, pero advirtió que un ecosistema construido alrededor de tecnologías de Meta seguiría beneficiando especialmente a Meta.
La contradicción de Meta
El manifiesto también debe leerse en el contexto de una carrera comercial.
Meta busca recuperar terreno frente a OpenAI, Anthropic y Google mientras realiza enormes inversiones en infraestructura y en su equipo de superinteligencia. Reuters señaló que la compañía prevé gastar hasta 145.000 millones de dólares en infraestructura de IA durante 2026.
Eso convierte el discurso de Zuckerberg en algo más que una reflexión filosófica. También es una declaración sobre el modelo de industria que mejor favorece la estrategia competitiva de Meta.
Pero la pregunta que plantea permanece incluso al margen de sus intereses comerciales.
Durante buena parte de la historia de la inteligencia artificial, el problema del alineamiento se ha formulado como una búsqueda: conseguir que las máquinas adopten los valores humanos. Zuckerberg introduce una dificultad anterior.
¿Qué valores humanos?
Si una futura superinteligencia alcanza realmente el poder que sus desarrolladores anticipan, decidir quién puede utilizarla, quién puede modificarla y qué principios debe obedecer podría resultar tan importante como conseguir que funcione correctamente.
La tecnología puede hacer que una máquina sea extraordinariamente inteligente. Lo que Zuckerberg sostiene que no puede hacer es resolver por nosotros los desacuerdos que ya dividen a la humanidad.
Fuente NEO – Vanguardia