La empresa de inteligencia artificial Anthropic fue fundada con el objetivo de «servir a los intereses a largo plazo de la humanidad». Sin embargo, ahora la compañía propone «pausar temporalmente» el desarrollo de la IA por miedo a que escape del control humano … .
La compañía estadounidense, desarrolladora de Claude o Mythos -que han revolucionado el panorama de la IA-, sugiere en un informe que «probablemente» sea «una buena idea» una desaceleración mundial en el desarrollo de IA de última generación.

Anthropic ha advertido, sin embargo, que este parón debe ser general, pues si solo frena una empresa, sus rivales podrían adelantarse en la carrera.

Noticia relacionada

Descubre vulnerabilidades en la web

Rodrigo Alonso

«Creemos que sería bueno para el mundo tener la opción de disminuir o pausar temporalmente el desarrollo de vanguardia de la IA para permitir que las estructuras sociales y la investigación sigan el ritmo del avance de la tecnología», ha señalado la empresa con sede en San Francisco.
«Sin un mecanismo global de coordinación, las empresas y los gobiernos tendrán que tomar decisiones difíciles sobre seguridad mientras enfrentan presiones competitivas y geopolíticas», añade el texto.

¿Y si la IA escapa al control humano?

La propuesta de Anthropic viene a raíz de una reflexión de cómo la IA se puede llegar a ‘autoentrenar’, escapando al control de los desarrolladores, y alcanzando lo que los expertos llaman «superación recursiva».
Este término define un problema que la empresa ha detectado, y según sus datos internos la IA acelera de manera dramática su propio desarrollo, lo que puede crear un ciclo de retroalimentación que eventualmente lleve a esta «superación recursiva».

«El papel humano se está reduciendo en cada paso del proceso de desarrollo de la IA»

A pesar de las alarmas aseguran que «aún no hemos llegado a ese punto, y la superación recursiva no es inevitable», pero añade que podría ocurrir antes de que la mayoría de los gobiernos e instituciones estén preparados para afrontarla.
«Las pruebas sugieren que el papel humano se está reduciendo en cada paso del proceso de desarrollo de la IA», advierte, y compara una posible solución con los tratados de control de armas nucleares, aunque sería aun más difícil de abordar, ya que el entrenamiento de la IA es mucho más fácil de ocultar que un silo de misiles.
Anthropic ya ha movido ficha y planea reunir a funcionarios, científicos, grupos de defensa y empresas de IA competidoras en los próximos meses para determinar cómo podría funcionar un sistema de este tipo.

La Casa Blanca mira a China

Esta propuesta no ha gustado en las altas esferas del Gobierno estadounidense ni en la industria, pues consideran que se enfoca en los peores escenarios y exagera los riesgos para frenar a sus rivales bajo el pretexto de la seguridad.
Aun así, la Casa Blanca ha reconocido el poder del modelo Mythos, que no se ha puesto a disposición del público general y que actualmente solo se utiliza en un pequeño número de organizaciones seleccionadas para detectar «miles de vulnerabilidades de alta gravedad, incluidas algunas en todos los principales sistemas operativos y navegadores web».

EE.UU. teme que un frenazo en el desarrollo de ventaja a China

Los funcionarios estadounidenses y ejecutivos de las grandes tecnológicas han argumentado además que disminuir el desarrollo de la IA podría ceder una ventaja significativa a China.
Sin embargo, el presidente Donald Trump dijo que en su reciente visita a Pekín se discutió la posibilidad de cooperar con el gigante asiático en asuntos de seguridad de la IA.

MÁS INFORMACIÓN

Trump también firmó una orden ejecutiva esta semana que permitirá al gobierno realizar evaluaciones preliminares de los modelos de IA más poderosos de empresas estadounidenses antes de su lanzamiento.

Amazon lleva años apostando por la automatización y la robótica. El pasado mes de octubre, la compañía de Seattle anunció que había desarrollado, producido y desplegado más de un millón de robots en toda su red de operaciones desde 2012, incluidos los once centros de distribución que hay en España. Pero el ritmo frenético de estos almacenes nunca para y los androides necesitan ser cada vez más autónomos. Y es ahí donde nace la idea del nuevo Proteus.Proteus fue el primer robot autónomo de Amazon y ahora la empresa da un salto interesante con su segunda generación: ya no se trata solo de mover carros llenos de paquetes listos para ser enviados de un punto a otro, sino de empezar a convertir a estos sistemas en asistentes físicos capaces de entender lo que se les pide y actuar en consecuencia.La compañía ha presentado esta novedad durante su evento Delivering the Future EMEA 2026, celebrado en Londres. El nuevo Proteus está diseñado para trabajar junto a los empleados en los centros logísticos, pero el valor añadido de esta generación es que el robot no necesita que alguien le programe una ruta paso a paso, sino que puede recibir una instrucción en lenguaje natural y encargarse de organizar la tarea.Dicho de otra manera, el empleado le dice qué necesita y Proteus se ocupa del resto. Según ha explicado Tye Brady, director de tecnología de Amazon Robotics, el sistema puede determinar prioridades, planificar rutas y organizar tiempos para mover materiales dentro del centro. Lo reseñable no es solo que se desplace de forma autónoma, sino que la interacción parece mucho más natural que la que solemos imaginar cuando pensamos en robots industriales. Del robot que mueve carros al asistente de almacénProteus no nace de cero. La primera generación fue presentada por Amazon como su primer robot móvil completamente autónomo, capaz de desplazarse libremente por determinadas zonas de sus instalaciones gracias a sensores que le permiten detectar y esquivar objetos. A diferencia de otros robots móviles de la compañía como Titan, que trabajan en áreas restringidas y siguen coordenadas marcadas en el suelo, Proteus fue diseñado para moverse en espacios compartidos con personas.Hasta ahora, su trabajo estaba muy centrado en las zonas de carga y descarga de los centros logísticos. Allí su objetivo es transportar carros con paquetes desde el área de salida hasta los muelles, en coordinación con otros sistemas robóticos como Cardinal, un brazo robótico que coloca paquetes en esos carros antes de que sigan su camino hacia los camiones.La nueva versión quiere ir bastante más allá: Amazon asegura que Proteus podrá operar en cualquier entorno donde sea necesario mover productos o materiales. Esto incluye el transporte de contenedores cuando llegan a las instalaciones, el traslado entre distintas estaciones de trabajo y el apoyo a los equipos tanto en centros logísticos como en estaciones de reparto.Proteus forma parte de una estrategia mucho más amplia. Hoy, su catálogo incluye sistemas móviles, brazos robóticos, soluciones de empaquetado automático y robots capaces de clasificar, transportar o manipular productos.Entre ellos están Hercules y Titan, unidades móviles que llevan estanterías o contenedores hasta los empleados; Sequoia, que utiliza robótica, inteligencia artificial y visión por ordenador para ordenar inventario con mayor rapidez; Sparrow, un brazo robótico capaz de identificar y mover productos individuales, o Vulcan, el primer robot de Amazon con sentido del tacto.Una inversión de 10.000 millones en Europa que incluye 25.000 nuevos empleosA pesar de la clara apuesta por la automatización, la compañía insiste en que el objetivo no es sustituir a los empleados, sino reducir tareas físicamente exigentes. Y ponen como ejemplo a Proteus: está pensado para encargarse de trabajos como el transporte de carros de gran peso o los desplazamientos repetitivos a largas distancias, de forma que las personas puedan dedicar más tiempo a labores de mayor valor añadido, como la gestión del flujo de inventario o el control de calidad. En línea con este mensaje, Amazon ha asegurado que prevé crear 25.000 nuevos puestos de trabajo en su red logística europea antes de que termine la década.La oferta de empleo en Europa se enmarca en un plan de inversión de más de 10.000 millones de euros para ampliar y modernizar la red logística europea de Amazon. Según la compañía, se desplegarán nuevas tecnologías robóticas, entre ellas sistemas como Vulcan y STARK, un sistema robótico que surgió de la propuesta de un empleado para tener un robot que recoge contenedors llenos y los coloca en carros. Tras su primera implantación en Barcelona, Amazon prevé extender STARK a 15 centros en Europa antes de 2027.

Google ha lanzado una actualización muy importante porque corrige un gran número de fallos de seguridad y, sobre todo, porque soluciona una vulnerabilidad de día cero que estaba ya siendo aprovechada por atacantes en casos reales. El tipo de errores genera gran preocupación porque los ciberdelincuentes pueden utilizarlos antes de que exista una solución para todos los usuarios.En concreto, el parche de seguridad para este mes de junio de Android soluciona 124 vulnerabilidades presentes en Framework, Sistema, Actualizaciones de sistema de Google Play, Kernel y componentes de Unisoc, Imagination Technologies, Qualcomm y MediaTek en dos conjuntos de parches: 2026-06-01 y 2026-06-05. Tres fallos muy peligrososInforman de que la mayoría de los fallos subsanados han sido clasificados de gravedad alta, mientras que 18 han recibido la categoría de críticos. Entre estos últimos destacan varios que podrían permitir a un atacante obtener más permisos dentro del dispositivo o incluso provocar fallos que dejaran inoperativo el sistema. Sin embargo, Google ha señalado tres vulnerabilidades como las más peligrosas.La primera afecta al componente Framework, que podría permitir una escalada remota de privilegios sin que el usuario tenga que realizar ninguna acción. La segunda es la de Sistema y podría facilitar una elevación local de privilegios también sin que el usuario tenga que interactuar. Por su parte, la tercera afecta al Kernel de Android y presenta un riesgo similar, ya que podría dar a un atacante un mayor control sobre un dispositivo comprometido.La vulnerabilidad de día ceroEso sí, la preocupación principal es la vulnerabilidad de día cero identificada como CVE-2025-48595, un fallo que afecta dispositivos con Android 14 o versiones posteriores y que permite a un atacante ejecutar código malicioso y obtener privilegios elevados en el sistema. Google ha advertido de que existen indicios de que esta vulnerabilidad ya estaba siendo explotada antes en ataques limitados y dirigidos.De hecho, en Bleeping Computer informan de que Google no ha revelado detalles sobre quiénes estaban detrás de estos ataques ni quiénes fueron las víctimas, pero desde el medio insisten en que este tipo de vulnerabilidades suelen emplearse en campañas de espionaje digital o en ataques dirigidos contra objetivos concretos. Por ello, recomiendan instalar las actualizaciones de seguridad tan pronto como estén disponibles para que el riesgo se reduzca lo máximo posible.

Los principales ejecutivos de la inteligencia artificial se han unido a científicos y expertos en seguridad para pedir al Congreso de Estados Unidos, a través de una carta, que regule para evitar que su tecnología pueda ser explotada para crear armas biológicas. En el … texto, firmado por Sam Altman (OpenAI), Darío Amodei (Anthropic), o Demis Hassabis (DeepMind), se reclama directamente a los legisladores que obliguen a las empresas que venden ADN y ARN sintéticos -necesarios para el desarrollo de vacunas y la investigación- a realizar un análisis de todas las ventas que tengan en busca de secuencias que puedan utilizarse para crear patógenos peligrosos.
En la carta, los firmantes señalan que «los sistemas de IA ya superan a virólogos con nivel de doctorado cuando se les plantean preguntas sobre procedimientos de laboratorio altamente técnicos dentro de sus propios ámbitos de especialización». Por eso llaman la atención sobre el peligro de que el avance de este tipo de tecnología acabe con «las barreras de conocimiento que hasta ahora dificultaban que personas o grupos con malas intenciones desarrollaran armas biológicas».

Entre los firmantes, además de los ejecutivos anteriormente citados y de los directores de IA de empresas como Meta o Microsoft, aparecen los jefes de las empresas biotecnológicas Twist Bioscience y Ansa Biotechnologies o el premio Noble de Química de 2024, David Baker. En el texto se reconoce que la posibilidad de encargar ADN sintético online «ha acelerado el desarrollo de vacunas, impulsado la investigación y permitido que pequeños equipos accedan a capacidades que antes estaban reservadas a las grandes instituciones». Sin embargo, esto también ha generado una vulnerabilidad en la cadena de suministro que permitiría «a un actor malintencionado causar daños considerables», como el desarrollo de nuevos patógenos que puedan provocar una pandemia.

MÁS INFORMACIÓN

Los firmantes destacan que muchos de los proveedores de ADN sintético «más grandes y responsables del sector» ya examinan y registran los pedidos que reciben de forma voluntaria, ya que comprenden que «desempeñan un papel importante a la hora de mantener la confianza pública y mitigar el posible uso indebido de esta importante tecnología». Pero lo que hace falta es que el requisito sea obligatorio.

Un momento delicado

En la carta, se reconoce que es raro que haya «consenso entre todas las partes» afectadas por el problema; pero se considera que «dado el ritmo vertiginoso de los cambios tecnológicos», la necesidad de que el Congreso regule es urgente. «Las herramientas de IA ya permiten al usuario identificar rápidamente dónde realizar pedidos de secuencias que no estarán sujetos a análisis», afirma en declaraciones recogidas por ‘Wired’ David Relman, microbiólogo de la Universidad de Stanford y firmante de la carta. El experto destaca que, si se la sabe dirigir correctamente, una herramienta de inteligencia artificial también puede «sugerir cómo modificar la naturaleza del pedido, de modo que incluso quienes realizan los análisis tengan muchas menos posibilidades de detectar lo que se intenta elaborar».
La carta se hace pública en un momento especialmente delicado para la industria de la inteligencia artificial, que se ha ganado el rechazo de una parte importante de la ciudadanía -sobre todo de los jóvenes estadounidenses- debido al temor a que su tecnología termine provocando la destrucción de millones de empleos.
La Casa Blanca también está comenzando a mostrarse más preocupada por el desarrollo de las máquinas; sobre todo desde el anuncio y lanzamiento limitado de Mythos, esa herramienta creada por Anthropic que es capaz de encontrar y explotar agujeros de seguridad mejor que casi cualquier experto humano. Esta misma semana, el presidente, Donald Trump, firmó una orden ejecutiva que permite al Gobierno revisar las herramientas de IA más potentes antes de su lanzamiento. La medida fue consensuada previamente con las grandes empresas del sector, que pondrán a disposición su tecnología de forma voluntaria. Hasta el momento, la Casa Blanca había sido reacia a cualquier tipo de regulación para el control de la inteligencia artificial, ya que temía que esta pudiera poner en peligro el liderazgo de las empresas estadounidenses.