Anthropic ha advertido este jueves de que la inteligencia artificial (IA) será capaz de crear «su propio sucesor» de manera completamente autónoma en los próximos años y sugirió una «pausa» global en su desarrollo para que la sociedad y la investigación puedan «seguir el ritmo».La empresa estadounidense reveló en una entrada de blog que cada vez delega más desarrollo de la IA a sus propios sistemas de IA y, a medida que aumenta la capacidad de computación, se acerca la posibilidad de la «automejora recursiva», es decir, que diseñe y desarrolle a su sucesor.La automejora recursiva, que «no es inevitable» y «puede llegar antes de que muchas instituciones estén preparadas», puede ser beneficiosa para la ciencia y la salud, pero también «incrementar los riesgos de que los humanos pierdan el control de los sistemas de IA», apuntó la empresa.»Si los sistemas son capaces de crear por completo a sus propios sucesores, los modos de hacerlos seguros, supervisarlos y dar forma a su comportamiento se vuelven mucho más importantes», agregó.La empresa cree que «probablemente sea bueno» ralentizar el desarrollo de la IA para abordar con más tiempo sus «inmensas implicaciones», y reclamó la colaboración de las empresas de todo el mundo con su rama investigadora, The Anthropic Institute, para establecer un marco.»Creemos que sería bueno para el mundo tener la opción de frenar o pausar temporalmente el desarrollo de la IA de frontera para permitir a las estructuras sociales y la investigación en alineamiento puedan mantenerse seguir el ritmo del avance de la tecnología», sostuvo la firma.Anthropic propone ayudar a construir los sistemas que requeriría esa pausa, con maneras de «verificar» que otros realmente se detienen para evitar favorecer a un «mal actor», y destacó que laboratorios «bien financiados» en varios países deberán «aceptar detenerse bajo las mismas condiciones».»Una pausa creíble también tiene que especificar qué la desencadena, qué la levanta y quién la arbitra», resaltó.El texto, firmado por el cofundador de Anthropic Jack Clark y la directora de The Anthropic Institute, Marina Favaro, describe usando datos internos lo rápido que están mejorando sus modelos avanzados, y vaticina que en el futuro agentes como el suyo, Claude, podrán entrenarse solos.Por ejemplo, detalló que hoy más del 80 % del código que Anthropic incorpora en su código base fue creado por Claude, cuando hace poco más de un año, en febrero de 2025, la cifra era menos del 10 %.

La empresa de inteligencia artificial Anthropic fue fundada con el objetivo de «servir a los intereses a largo plazo de la humanidad». Sin embargo, ahora la compañía propone «pausar temporalmente» el desarrollo de la IA por miedo a que escape del control humano … .
La compañía estadounidense, desarrolladora de Claude o Mythos -que han revolucionado el panorama de la IA-, sugiere en un informe que «probablemente» sea «una buena idea» una desaceleración mundial en el desarrollo de IA de última generación.

Anthropic ha advertido, sin embargo, que este parón debe ser general, pues si solo frena una empresa, sus rivales podrían adelantarse en la carrera.

Noticia relacionada

Descubre vulnerabilidades en la web

Rodrigo Alonso

«Creemos que sería bueno para el mundo tener la opción de disminuir o pausar temporalmente el desarrollo de vanguardia de la IA para permitir que las estructuras sociales y la investigación sigan el ritmo del avance de la tecnología», ha señalado la empresa con sede en San Francisco.
«Sin un mecanismo global de coordinación, las empresas y los gobiernos tendrán que tomar decisiones difíciles sobre seguridad mientras enfrentan presiones competitivas y geopolíticas», añade el texto.

¿Y si la IA escapa al control humano?

La propuesta de Anthropic viene a raíz de una reflexión de cómo la IA se puede llegar a ‘autoentrenar’, escapando al control de los desarrolladores, y alcanzando lo que los expertos llaman «superación recursiva».
Este término define un problema que la empresa ha detectado, y según sus datos internos la IA acelera de manera dramática su propio desarrollo, lo que puede crear un ciclo de retroalimentación que eventualmente lleve a esta «superación recursiva».

«El papel humano se está reduciendo en cada paso del proceso de desarrollo de la IA»

A pesar de las alarmas aseguran que «aún no hemos llegado a ese punto, y la superación recursiva no es inevitable», pero añade que podría ocurrir antes de que la mayoría de los gobiernos e instituciones estén preparados para afrontarla.
«Las pruebas sugieren que el papel humano se está reduciendo en cada paso del proceso de desarrollo de la IA», advierte, y compara una posible solución con los tratados de control de armas nucleares, aunque sería aun más difícil de abordar, ya que el entrenamiento de la IA es mucho más fácil de ocultar que un silo de misiles.
Anthropic ya ha movido ficha y planea reunir a funcionarios, científicos, grupos de defensa y empresas de IA competidoras en los próximos meses para determinar cómo podría funcionar un sistema de este tipo.

La Casa Blanca mira a China

Esta propuesta no ha gustado en las altas esferas del Gobierno estadounidense ni en la industria, pues consideran que se enfoca en los peores escenarios y exagera los riesgos para frenar a sus rivales bajo el pretexto de la seguridad.
Aun así, la Casa Blanca ha reconocido el poder del modelo Mythos, que no se ha puesto a disposición del público general y que actualmente solo se utiliza en un pequeño número de organizaciones seleccionadas para detectar «miles de vulnerabilidades de alta gravedad, incluidas algunas en todos los principales sistemas operativos y navegadores web».

EE.UU. teme que un frenazo en el desarrollo de ventaja a China

Los funcionarios estadounidenses y ejecutivos de las grandes tecnológicas han argumentado además que disminuir el desarrollo de la IA podría ceder una ventaja significativa a China.
Sin embargo, el presidente Donald Trump dijo que en su reciente visita a Pekín se discutió la posibilidad de cooperar con el gigante asiático en asuntos de seguridad de la IA.

MÁS INFORMACIÓN

Trump también firmó una orden ejecutiva esta semana que permitirá al gobierno realizar evaluaciones preliminares de los modelos de IA más poderosos de empresas estadounidenses antes de su lanzamiento.

Amazon lleva años apostando por la automatización y la robótica. El pasado mes de octubre, la compañía de Seattle anunció que había desarrollado, producido y desplegado más de un millón de robots en toda su red de operaciones desde 2012, incluidos los once centros de distribución que hay en España. Pero el ritmo frenético de estos almacenes nunca para y los androides necesitan ser cada vez más autónomos. Y es ahí donde nace la idea del nuevo Proteus.Proteus fue el primer robot autónomo de Amazon y ahora la empresa da un salto interesante con su segunda generación: ya no se trata solo de mover carros llenos de paquetes listos para ser enviados de un punto a otro, sino de empezar a convertir a estos sistemas en asistentes físicos capaces de entender lo que se les pide y actuar en consecuencia.La compañía ha presentado esta novedad durante su evento Delivering the Future EMEA 2026, celebrado en Londres. El nuevo Proteus está diseñado para trabajar junto a los empleados en los centros logísticos, pero el valor añadido de esta generación es que el robot no necesita que alguien le programe una ruta paso a paso, sino que puede recibir una instrucción en lenguaje natural y encargarse de organizar la tarea.Dicho de otra manera, el empleado le dice qué necesita y Proteus se ocupa del resto. Según ha explicado Tye Brady, director de tecnología de Amazon Robotics, el sistema puede determinar prioridades, planificar rutas y organizar tiempos para mover materiales dentro del centro. Lo reseñable no es solo que se desplace de forma autónoma, sino que la interacción parece mucho más natural que la que solemos imaginar cuando pensamos en robots industriales. Del robot que mueve carros al asistente de almacénProteus no nace de cero. La primera generación fue presentada por Amazon como su primer robot móvil completamente autónomo, capaz de desplazarse libremente por determinadas zonas de sus instalaciones gracias a sensores que le permiten detectar y esquivar objetos. A diferencia de otros robots móviles de la compañía como Titan, que trabajan en áreas restringidas y siguen coordenadas marcadas en el suelo, Proteus fue diseñado para moverse en espacios compartidos con personas.Hasta ahora, su trabajo estaba muy centrado en las zonas de carga y descarga de los centros logísticos. Allí su objetivo es transportar carros con paquetes desde el área de salida hasta los muelles, en coordinación con otros sistemas robóticos como Cardinal, un brazo robótico que coloca paquetes en esos carros antes de que sigan su camino hacia los camiones.La nueva versión quiere ir bastante más allá: Amazon asegura que Proteus podrá operar en cualquier entorno donde sea necesario mover productos o materiales. Esto incluye el transporte de contenedores cuando llegan a las instalaciones, el traslado entre distintas estaciones de trabajo y el apoyo a los equipos tanto en centros logísticos como en estaciones de reparto.Proteus forma parte de una estrategia mucho más amplia. Hoy, su catálogo incluye sistemas móviles, brazos robóticos, soluciones de empaquetado automático y robots capaces de clasificar, transportar o manipular productos.Entre ellos están Hercules y Titan, unidades móviles que llevan estanterías o contenedores hasta los empleados; Sequoia, que utiliza robótica, inteligencia artificial y visión por ordenador para ordenar inventario con mayor rapidez; Sparrow, un brazo robótico capaz de identificar y mover productos individuales, o Vulcan, el primer robot de Amazon con sentido del tacto.Una inversión de 10.000 millones en Europa que incluye 25.000 nuevos empleosA pesar de la clara apuesta por la automatización, la compañía insiste en que el objetivo no es sustituir a los empleados, sino reducir tareas físicamente exigentes. Y ponen como ejemplo a Proteus: está pensado para encargarse de trabajos como el transporte de carros de gran peso o los desplazamientos repetitivos a largas distancias, de forma que las personas puedan dedicar más tiempo a labores de mayor valor añadido, como la gestión del flujo de inventario o el control de calidad. En línea con este mensaje, Amazon ha asegurado que prevé crear 25.000 nuevos puestos de trabajo en su red logística europea antes de que termine la década.La oferta de empleo en Europa se enmarca en un plan de inversión de más de 10.000 millones de euros para ampliar y modernizar la red logística europea de Amazon. Según la compañía, se desplegarán nuevas tecnologías robóticas, entre ellas sistemas como Vulcan y STARK, un sistema robótico que surgió de la propuesta de un empleado para tener un robot que recoge contenedors llenos y los coloca en carros. Tras su primera implantación en Barcelona, Amazon prevé extender STARK a 15 centros en Europa antes de 2027.

Google ha lanzado una actualización muy importante porque corrige un gran número de fallos de seguridad y, sobre todo, porque soluciona una vulnerabilidad de día cero que estaba ya siendo aprovechada por atacantes en casos reales. El tipo de errores genera gran preocupación porque los ciberdelincuentes pueden utilizarlos antes de que exista una solución para todos los usuarios.En concreto, el parche de seguridad para este mes de junio de Android soluciona 124 vulnerabilidades presentes en Framework, Sistema, Actualizaciones de sistema de Google Play, Kernel y componentes de Unisoc, Imagination Technologies, Qualcomm y MediaTek en dos conjuntos de parches: 2026-06-01 y 2026-06-05. Tres fallos muy peligrososInforman de que la mayoría de los fallos subsanados han sido clasificados de gravedad alta, mientras que 18 han recibido la categoría de críticos. Entre estos últimos destacan varios que podrían permitir a un atacante obtener más permisos dentro del dispositivo o incluso provocar fallos que dejaran inoperativo el sistema. Sin embargo, Google ha señalado tres vulnerabilidades como las más peligrosas.La primera afecta al componente Framework, que podría permitir una escalada remota de privilegios sin que el usuario tenga que realizar ninguna acción. La segunda es la de Sistema y podría facilitar una elevación local de privilegios también sin que el usuario tenga que interactuar. Por su parte, la tercera afecta al Kernel de Android y presenta un riesgo similar, ya que podría dar a un atacante un mayor control sobre un dispositivo comprometido.La vulnerabilidad de día ceroEso sí, la preocupación principal es la vulnerabilidad de día cero identificada como CVE-2025-48595, un fallo que afecta dispositivos con Android 14 o versiones posteriores y que permite a un atacante ejecutar código malicioso y obtener privilegios elevados en el sistema. Google ha advertido de que existen indicios de que esta vulnerabilidad ya estaba siendo explotada antes en ataques limitados y dirigidos.De hecho, en Bleeping Computer informan de que Google no ha revelado detalles sobre quiénes estaban detrás de estos ataques ni quiénes fueron las víctimas, pero desde el medio insisten en que este tipo de vulnerabilidades suelen emplearse en campañas de espionaje digital o en ataques dirigidos contra objetivos concretos. Por ello, recomiendan instalar las actualizaciones de seguridad tan pronto como estén disponibles para que el riesgo se reduzca lo máximo posible.