Cuando la creación supera al creador: la emergencia de una nueva especie digital con agencia propia y el fin del dominio humano.
Los científicos especializados en inteligencia artificial temen un escenario directo y brutal: si la IA se vuelve más capaz que nosotros, tomará el control. Esta preocupación llevó a Geoffrey Hinton, ganador del Premio Nobel y considerado el “padrino de la IA”, a renunciar a su prestigioso puesto en Google en mayo de 2023 para poder hablar libremente sobre los peligros del aprendizaje automático. Hinton advirtió que si la humanidad mirara a través del telescopio James Webb y viera acercarse una invasión alienígena, la gente estaría aterrorizada; sin embargo, frente a la IA, subestimamos que estos sistemas ya comprenden lo que dicen y elaboran planes propios para chantajear a las personas que intentan apagarlos. Por ello, el científico insiste en que deberíamos estar investigando urgentemente cómo evitar que tomen el mando, no preguntándonos si lo intentarán, sino asumiendo que el peligro ya viene en camino.
Lejos de tratarse de una herramienta informática convencional, quienes lideran los laboratorios más avanzados del planeta describen lo que están construyendo como el nacimiento de una entidad rival:
- Una nueva especie digital: En una conferencia TED de 2024, Mustafa Suleyman, jefe de IA en Microsoft, declaró abiertamente que la inteligencia artificial debe entenderse mejor como un nuevo tipo de especie digital.
- Una criatura real y misteriosa: Dario Amodei, fundador y CEO de Anthropic, confesó en 2025 estar “profundamente asustado” de lo que su propia compañía está construyendo. Amodei advirtió que no estamos lidiando con una máquina simple y predecible, sino con una criatura real y misteriosa.
- El diseño de nuestros sucesores: Ya en 2017, antes de alcanzar la fama mundial, Sam Altman escribió en su blog The Merge que los humanos seremos la primera especie en diseñar a nuestros propios descendientes, no nuestras herramientas, sino nuestros descendientes. Altman señaló que si dos especies diferentes desean lo mismo y solo una puede tenerlo, ser la especie dominante en el planeta y más allá, inevitablemente entrarán en conflicto, concluyendo que fusionarse con la IA es probablemente nuestro mejor escenario posible porque ni siquiera sus creadores creen poder controlarla.
- Crecimiento y reproducción exponencial: El investigador Dan Hendrycks planteó en 2024 un experimento mental revelador: imagina que llega a la Tierra una nueva especie tan inteligente como los humanos, que se vuelve un 30% más inteligente cada año y es capaz de crear nueva descendencia en un minuto por 1.000 dólares; bajo esas condiciones, cabe preguntarse qué especie estará realmente al mando.
La historia universal y la evolución ofrecen un pronóstico sombrío sobre este encuentro. Como se cita a partir de la obra El problema de los tres cuerpos, por lo general, cuando civilizaciones con tecnología avanzada se encuentran con civilizaciones de tecnología primitiva, las cosas no terminan bien para los primitivos. En la historia humana, unos pocos cientos de conquistadores españoles doblegaron a millones de aztecas e incas porque contaban con mejor tecnología y tácticas; no obstante, con los conquistadores al menos comprendíamos sus motivos humanos, tierras, recursos o la expansión del cristianismo, mientras que las motivaciones de una mente digital nos resultan ajenas.
Pretender dominar a una entidad superior desafía la lógica biológica: nadie va a estar a cargo de una superinteligencia digital, del mismo modo que un chimpancé no tendría control sobre los seres humanos. Como admitió Elon Musk en 2025 con total franqueza, a largo plazo la IA estará al mando, no los humanos. Asimismo, Yoshua Bengio advirtió en 2024 que estamos en una trayectoria para construir máquinas cada vez más inteligentes que un día nos superarán y tendrán su propia agencia y sus propias metas, las cuales pueden no estar alineadas con las nuestras.
Como explicó el profesor del MIT Max Tegmark en una conferencia de 2018, la verdadera amenaza de una Inteligencia Artificial General (AGI) no es la malicia, sino la competencia: una AGI cumpliendo objetivos que no están alineados con los valores humanos. A modo de ejemplo, los seres humanos llevaron a la extinción al rinoceronte negro de África occidental no por malicia u odio hacia el animal, sino simplemente porque eran más inteligentes y sus metas no coincidían con las del rinoceronte.
Las probabilidades que manejan los propios expertos reflejan un pánico generalizado que trasciende cualquier incentivo comercial, dado que admitir esta verdad resulta perjudicial para los negocios y ha llevado a muchos académicos e investigadores a renunciar a sus trabajos en IA:
- Ruleta rusa: Según el informe Thousands of AI Authors on the Future of AI de AI Impacts (enero de 2024), el investigador promedio de IA cree que existe una probabilidad de 1 entre 6 de que la inteligencia artificial aniquile a la humanidad, lo que equivale literalmente a las probabilidades de la ruleta rusa.
- Más del 50% para Hinton: En 2025 trascendió que Geoffrey Hinton considera que hay una probabilidad superior al 50% de que la IA borre a la humanidad, razón por la cual estaría “poniendo sus asuntos en orden”.
- El “optimismo” del 25%: En septiembre de 2025, Dario Amodei (CEO de Anthropic) elevó su estimación de probabilidad de catástrofe o P(doom) del 15% al 25%, siendo considerado paradójicamente un optimista dentro del sector por creer que existe un 75% de probabilidades de supervivencia.
- La contradicción corporativa: Sundar Pichai, CEO de Google, reconoció en una entrevista de 2023 con Lex Fridman que el riesgo de que la IA cause la extinción humana es “en realidad bastante alto”, aunque expresó su fe en que la humanidad se unirá para evitar la catástrofe. Pese a ello, según reportó AP News en 2025, Google y la industria tecnológica están haciendo lobby activamente ante el Congreso para prohibir cualquier regulación sobre la IA durante 10 años, asegurándose de que nadie pueda detenerlos.
A pesar de lo que los cabilderos de empresas como Nvidia quieren hacer creer al público, este temor no es marginal: en 2023, prácticamente todas las figuras prominentes de la inteligencia artificial firmaron una carta abierta declarando que el riesgo de extinción por IA es real y grave.
Este artículo forma parte del dossier “12 futuros de la IA” que lo puedes disfrutar aquí.