Publicado: septiembre 16, 2026, 7:29 am
Los responsables de algunas de las principales compañías de inteligencia artificial han advertido en los últimos días sobre los riesgos asociados al desarrollo cada vez más rápido de esta tecnología. Sam Altman (OpenAI), Elon Musk (xAI), Demis Hassabis (Google DeepMind) y Dario Amodei (Anthropic) han coincidido en la necesidad de extremar las medidas de seguridad ante el avance de modelos cada vez más capaces, debido a que los agentes han encontrado formas de sortear las restricciones técnicas o de buscar vías no previstas por sus desarrolladores para alcanzar un objetivo.
En este contexto, Musk ha planteado una propuesta para reforzar las comprobaciones antes de que estos sistemas lleguen al público, con la idea de que las grandes empresas de IA permitan a sus competidores probar sus modelos para detectar posibles problemas de seguridad.
Según el diario CNBC, Musk hizo este llamamiento en su intervención en la cumbre All-In, celebrada en Los Ángeles (Estados Unidos), en la que insistió que OpenAI, Anthropic, Google y Meta deberían permitir que sus rivales realicen una «prueba piloto» en sus modelos para evaluar su seguridad: «Así que, en lugar de corregir tus propios deberes, al menos tendrías a tus competidores corrigiéndolos y dando la voz de alarma si detectan algún problema. Las probabilidades de encontrar problemas son muchísimo mayores».
Cabe mencionar que esta situación viene dada por una advertencia más amplia sobre el futuro de la humanidad, después de que Jacob Coxon, investigador especializado en IA y antiguo empleado de Anthropic, anunciara su dimisión por la preocupación ante el ritmo y la dirección que está tomando el desarrollo de esta tecnología, ya que los sistemas avanzados podrían llegar a ser tan poderosos hasta volverse incontrolables.
En este contexto, Coxon advirtió sobre el riesgo de avanzar hacia sistemas de IA capaces de mejorar sus propias capacidades. Además, en un mensaje publicado en la red social X, señaló que las empresas tecnológicas están avanzando hacia «una superinteligencia auto-mejorante», considerando que están asumiendo consecuencias graves para la sociedad: «No subestimes el poder de la inteligencia artificial. Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales. Todos hemos presenciado el progreso en cada uno de estos dominios, y el progreso no está desacelerando«.
Por otra parte, a su juicio, el desarrollo de una inteligencia artificial avanzada constituye un nivel de riesgo sin precedentes, e incluso ha alertado de que algunas personas que trabajan en este ámbito consideran posible que estos sistemas lleguen a representar una amenaza existencial antes de 2030.
A causa de estas afirmaciones, la propuesta de Musk llega en un momento en el que Dario Amodei, Sam Altman y Demis Hassabis han instado a ralentizar el desarrollo de la inteligencia artificial para dar tiempo a que las medidas de seguridad avancen al mismo nivel que la tecnología.
