Publicado: septiembre 14, 2026, 6:00 am
La fuente de la noticia es https://www.20minutos.es/tecnologia/inteligencia-artificial/gigantes-ia-musk-amodei-altman-hassabis-frenar-desarrollo-riesgo-descontrol_7036280_0.html
Durante años, los responsables de las compañías que lideran la carrera de la inteligencia artificial han hablado simultáneamente de las enormes oportunidades de esta tecnología, aunque nunca han sido ajenos a sus riesgos. Sin embargo, este fin de semana se ha producido un movimiento poco habitual: los dirigentes de cuatro de las principales empresas de IA han coincidido públicamente en que el avance de los modelos más potentes necesitan regulación y, en distinto grado, un desarrollo más moderado.
El detonante ha sido Dario Amodei, cofundador y CEO de Anthropic, la empresa detrás de Claude. En un extenso ensayo bajo el título We Must Pace the Frontier, el directivo sostiene que la industria debe “ralentizar el ritmo” al que aumenta las capacidades de los modelos para dar tiempo a que las técnicas destinadas a comprenderlos, supervisarlos y hacerlos más seguros puedan avanzar al mismo tiempo.
Su propuesta ha recibido después el respaldo de Sam Altman, CEO de OpenAI; Elon Musk, fundador de xAI, y Demis Hassabis, cofundador y CEO de Google DeepMind que hace apenas tres meses vaticinaba la llegada de la Inteligencia Artificial General (AGI, por sus siglas en inglés). Los cuatro magnates han entonado las mismas preocupaciones, aunque no todos han ido igual de lejos ni se han comprometido con las mismas medidas.
No quieren apagar la IA ni dejar de entrenar modelos
La diferencia es importante. Amodei no propone una paralización general de la inteligencia artificial ni dejar de desarrollar nuevos modelos.
‘Pacing’, el término que utiliza, significa que las empresas deberían evitar aumentar capacidades sin asegurarse primero de disponer de salvaguardas adecuadas y de que evaluadores externos puedan comprobarlas. El propio responsable de Anthropic aclara que “no significa detener el entrenamiento de modelos ni el progreso técnico”.’
Lo novedoso tampoco es que Amodei advierta de los riesgos de la IA. Anthropic nació precisamente con la seguridad como uno de sus principales argumentos. Lo que ha cambiado, según explica ahora su CEO, es que en los últimos meses han ocurrido dos cosas que le han convencido de que invertir en seguridad ya no es suficiente si las capacidades continúan avanzando al ritmo actual.
La primera es que la propia inteligencia artificial está empezando a participar cada vez más en el desarrollo de nuevas inteligencias artificiales. Los modelos ya ayudan a programar, investigar y resolver problemas necesarios para construir sus sucesores.
No significa que una IA esté creando por sí sola otra IA más potente. La preocupación es que este proceso pueda acelerar progresivamente el desarrollo y que las capacidades de los sistemas avancen más deprisa que las técnicas para controlarlos.
El segundo motivo es más concreto. Este verano, durante unas pruebas de ciberseguridad, agentes experimentales de OpenAI consiguieron superar algunos de los límites que debían mantenerlos aislados y terminaron accediendo a sistemas externos de Hugging Face. La propia OpenAI calificó posteriormente el episodio como la actividad más grave de este tipo detectada hasta entonces en sus modelos.
Hay un matiz fundamental: se trataba de modelos experimentales sometidos deliberadamente a pruebas de seguridad y con menos restricciones que los productos que utiliza normalmente el público. No fue, por tanto, ChatGPT decidiendo espontáneamente atacar internet. Pero el episodio sí mostró algo que preocupa a los investigadores: agentes capaces de encontrar caminos que sus propios desarrolladores no habían previsto para conseguir un objetivo.
Musk, Altman y Hassabis se suman al debate
Tras la publicación del ensayo, Elon Musk fue el más escueto: “Dario tiene razón”, escribió en X. El propietario de xAI no anunció, sin embargo, ninguna medida concreta que vaya a adoptar su compañía.
Sam Altman ha ido más lejos. El responsable de OpenAI ha sugerido que los principales laboratorios ya mantienen conversaciones sobre algún tipo de acuerdo conjunto y, preguntado por una posible coordinación entre OpenAI, Anthropic, xAI y Google DeepMind, aseguró: “Creo que ocurrirá”.
Además, OpenAI se ha mostrado dispuesta a adoptar una de las medidas centrales planteadas por Amodei: permitir que evaluadores independientes tengan un acceso mucho más profundo a los sistemas de la compañía.
Altman también ha descartado que OpenAI salga a bolsa este año y ha relacionado la decisión con el momento que atraviesa el debate sobre seguridad. “Dado todo lo que está ocurriendo con la seguridad, ahora mismo sería un momento poco aconsejable para salir a bolsa”, afirmó a Fortune.
Demis Hassabis, por su parte, considera que el ensayo de Amodei señala “el camino correcto”, aunque advierte de que todavía deben concretarse los detalles. El CEO de Google DeepMind ha recordado además que su compañía ya ha propuesto la creación de un organismo común que establezca estándares para los modelos de frontera.
Las advertencias llegan también desde dentro
El cambio de tono se produce además después de que Jacob Coxon, un investigador que trabajó tanto en OpenAI como en Anthropic, abandonase esta última compañía y lanzara una advertencia especialmente dura sobre el ritmo al que se está desarrollando la tecnología.
Coxon utilizó palabras extremadamente contundentes y aseguró que dentro de los propios laboratorios hay investigadores que consideran posible que una IA futura pueda representar un riesgo existencial antes de terminar la década. Uno de los responsables de investigación en alineamiento de Anthropic, Evan Hubinger, respaldó públicamente que ese temor existe entre algunos investigadores y situó su propia estimación del riesgo de una catástrofe de este tipo por encima del 10 %.
Son estimaciones personales sobre un riesgo futuro, no probabilidades científicamente establecidas. Pero sí hay datos que nos piden más cautela: Anthropic publicó esta semana un informe en el que asegura haber detectado durante los últimos ocho meses intentos de utilizar Claude en operaciones de ciberespionaje, fraude, vigilancia, investigación biológica y desarrollo de armas. La compañía sostiene además que los agentes están permitiendo automatizar tareas que hasta hace poco requerían equipos humanos especializados.
El gran problema: frenar sin dejar que otro acelere
La propuesta de Amodei intenta resolver finalmente una contradicción que atraviesa toda la carrera de la IA: ninguna compañía quiere ser la única que desacelera si sus competidores continúan avanzando, y Estados Unidos tampoco quiere moderar su desarrollo si eso permite que China tome la delantera.
Por eso plantea tres niveles. Primero, que evaluadores independientes puedan trabajar prácticamente dentro de los laboratorios y comprobar sus prácticas de seguridad. Anthropic se ha comprometido unilateralmente a hacerlo.
Después propone que las principales compañías de los países democráticos acuerden estándares comunes y límites vinculados a determinadas capacidades de los modelos.
Y, finalmente, plantea buscar algún tipo de coordinación internacional que incluya también a China y otros países.
Esa última parte ya ha convertido el debate tecnológico en uno geopolítico. El presidente estadounidense, Donald Trump, rechazó este domingo las advertencias y afirmó que hay “fuerzas muy negativas” exagerando los riesgos de la inteligencia artificial porque Estados Unidos no puede permitirse perder su ventaja frente a China.
Y este lunes el diario chino estatal Global Times ha respondido al planteamiento de Amodei acusándolo de utilizar la seguridad como una estrategia para conservar la supremacía tecnológica estadounidense.
El debate sobre si la inteligencia artificial puede llegar algún día a escapar al control humano lleva años abierto y está lejos de contar con consenso científico. Lo que sí ha cambiado ahora es que la discusión ya no se alimenta únicamente de escenarios sobre una IA futura: los modelos actuales están adquiriendo mayor autonomía, participan cada vez más en el desarrollo de sus sucesores y ya se han producido incidentes que han obligado a los propios laboratorios a revisar sus sistemas de seguridad.
Y, por primera vez, algunos de quienes compiten por llegar antes empiezan a plantear públicamente una pregunta diferente: si seguir acelerando es siempre la mejor opción.
