Publicado: agosto 8, 2026, 6:07 am
Hay una pregunta sobre la inteligencia artificial para la que ni siquiera quienes están trabajando en su primera línea tienen una respuesta clara. No tiene que ver con cuándo empezará a sustituir empleos, cuánto dinero ganarán las grandes tecnológicas con ella o si algún día los robots harán innecesario trabajar. La duda va bastante más lejos.
Lila Ibrahim, responsable de preparación ante la IA de Google DeepMind, tampoco se atreve a ponerle un número. «Cualquier cifra superior a eso sería solo una suposición mía”», ha reconocido al ser preguntada sobre cuál sería la probabilidad real. Solo acepta fijar un suelo que parece pequeño hasta que se sabe exactamente de qué está hablando: «no es cero».
La cifra se refiere al escenario más extremo que rodea al desarrollo de la IA, la posibilidad de que sistemas mucho más avanzados terminen provocando una catástrofe capaz de amenazar la supervivencia humana.
Ibrahim no dice que vaya a ocurrir, ni siquiera que sea probable, pero considera irresponsable actuar como si pudiera descartarse por completo. En 2023 ya firmó, junto a investigadores y ejecutivos de OpenAI, Anthropic y la propia DeepMind, una declaración que pedía tratar el riesgo de extinción provocado por la IA con una seriedad comparable a la de las pandemias o las guerras nucleares.
Calcular la probabilidad de lo desconocido
Geoffrey Hinton sí ha ido bastante más lejos. El premio Nobel y uno de los padres del aprendizaje profundo ha situado entre el 10% y el 20% la posibilidad de que una IA avanzada termine provocando la desaparición de la humanidad, mientras que Dario Amodei, consejero delegado de Anthropic, calculó en 2025 que existía alrededor de un 25% de probabilidades de que las cosas fueran «realmente, realmente mal».
El problema aparece cuando se pregunta de dónde salen esos porcentajes. No existe una estadística histórica sobre superinteligencias que permita calcular frecuencias, ni una muestra de catástrofes anteriores con la que alimentar un modelo. Ibrahim se planta precisamente ahí: reconoce el peligro, pero admite que convertirlo en un 5%, un 15% o un 30% sería entrar en el terreno de la conjetura.
Ese desacuerdo está también recogido en el International AI Safety Report 2026, elaborado con la participación de más de un centenar de especialistas y representantes designados por 29 países, Naciones Unidas, la OCDE y la Unión Europea. El documento reconoce que algunos expertos consideran plausible una pérdida futura de control sobre sistemas muy avanzados y otros creen que esos escenarios son poco creíbles; los modelos actuales, señala, todavía no poseen las capacidades necesarias para provocar algo semejante.
Desafíos reales
La imagen de una máquina que un día «decide» acabar con nosotros resulta cinematográfica, pero tampoco describe demasiado bien la preocupación de los investigadores. El riesgo que analizan pasa por sistemas capaces de actuar durante largos periodos, esquivar mecanismos de supervisión, ocultar determinadas acciones o perseguir objetivos que terminen chocando con los de sus propios desarrolladores.
Los modelos actuales están muy lejos de ese punto. El informe internacional de seguridad señala, sin embargo, que han mejorado en planificación autónoma y que algunos ya reconocen cuándo están siendo sometidos a determinadas pruebas o encuentran agujeros en las evaluaciones diseñadas para medirlos.
Para llegar a una verdadera pérdida de control tendrían que combinar capacidades mucho mayores con acceso al mundo real y con un comportamiento difícil de frenar.
A ese escenario se añaden peligros bastante menos futuristas. Una IA mucho más capaz podría facilitar ciberataques, acelerar la búsqueda de agentes biológicos peligrosos o asumir cada vez más funciones en sistemas críticos.
Y aquí empiezan también las discrepancias. Yann LeCun, premio Turing y antiguo responsable científico de IA de Meta, lleva tiempo rechazando buena parte del discurso sobre la extinción y considera que exagerar esos escenarios puede resultar incluso perjudicial. LeCun sostiene que las sucesivas revoluciones tecnológicas siempre han generado miedos parecidos y que el esfuerzo debería concentrarse en construir sistemas seguros, en lugar de presentar como inevitable una superinteligencia fuera de control.
El otro futuro
Elon Musk se mueve, curiosamente, entre los dos mundos. Durante años ha sido uno de los empresarios que más ha advertido sobre los peligros de una IA superior a la humana, pero ahora dibuja al mismo tiempo un futuro extraordinariamente optimista sobre lo que esa tecnología hará con la economía.
«El dinero no importará en 2036», aseguró recientemente. Su razonamiento parte de unir IA y millones de robots humanoides capaces de producir bienes y prestar servicios a una escala gigantesca. Musk imagina una economía de abundancia casi ilimitada en la que producir deje de ser el problema y el trabajo humano pierda buena parte de su función actual.
Sin embargo, no todos están de acuerdo. La responsable de DeepMind sostiene que la tecnología está cambiando demasiado deprisa como para saber cómo viviremos dentro de diez o veinte años, una cautela que aplica tanto al escenario negro como al paraíso tecnológico. Sin embargo, poner 2036 a la desaparición práctica del dinero resulta tan difícil de demostrar hoy como asignar un porcentaje exacto a una catástrofe provocada por una inteligencia que todavía no existe.
Mientras ese debate mira décadas hacia delante, una parte del riesgo ya está aquí. Fraudes con voces e imágenes falsas, ciberataques asistidos por IA, sistemas autónomos que cometen errores, transformación del empleo y una capacidad tecnológica cada vez más concentrada en unas pocas compañías forman parte de los problemas que el International AI Safety Report ya identifica en los modelos actuales.
Sobre lo que vendrá después, los expertos siguen sin poner fecha, porcentaje ni desenlace; únicamente mantienen una cifra sobre la mesa cuando se les pregunta por el escenario en el que la IA llegue a poner en peligro nuestra propia supervivencia: «no es cero».
