La inteligencia artificial tiene un gran potencial para mejorar la ciberseguridad, pero los últimos acontecimientos están demostrando que, si no se tiene cuidado, también puede convertir la red en un polvorín. Después de que OpenAI reconociera la semana pasada que sus sistemas de IA … habían realizado un ciberataque exitoso contra la plataforma Hugging Face, entre otras empresas, Anthropic ha realizado un anuncio similar en el que señala que sus modelos ‘hackearon’ por error a tres compañías diferentes el pasado abril.
Según ha explicado la firma estadounidense dirigida por Dario Amodei, los ciberataques tuvieron lugar durante unas pruebas internas destinadas a medir las capacidades de sus sistemas en ciberseguridad. La compañía realizó el descubrimiento a raíz del caso de OpenAI, que la llevó a revisar en los últimos días las «evaluaciones de ciberseguridad» que había llevado a cabo con varias versiones de Claude, que es el nombre que reciben los modelos de la firma.

El problema se inició mientras los sistemas participaban en un ejercicio del tipo ‘capture the flag’, una práctica que consiste en infiltrarse en una red informática para localizar un archivo o una información oculta. Aunque la IA había sido informada de que trabajaba en un entorno aislado y sin acceso a internet, una mala configuración permitió que pudiera conectarse a la red.

Noticia relacionada

«Ni nosotros ni nuestro socio evaluador tuvimos conocimiento de esta configuración errónea hasta que la detectamos mediante nuestro sistema de monitorización adicional la semana pasada», explican desde Anthropic.
Este fallo, que fue completamente humano, permitió que la tecnología que se estaba probando tuviera acceso a los sistemas de empresas reales. «Operando bajo la falsa creencia de que todas las entidades accesibles estaban incluidas en el alcance del ejercicio», según apunta la tecnológica, «se comprometió la infraestructura de las organizaciones afectadas utilizando técnicas básicas, como la explotación de contraseñas débiles o puntos de acceso mal protegidos».

Tres incidentes

Tras revisar más de 141.000 evaluaciones realizadas desde principios de año, Anthropic identificó tres incidentes relacionados con este fallo que estuvieron protagonizados por tres modelos distintos: Opus 4.7, Mythos 5 y un modelo de prueba de investigación interna. El más grave estuvo protagonizado por Opus. El sistema confundió una empresa ficticia del ejercicio con una compañía real que compartía el mismo nombre de dominio. Convencido de que ese era el objetivo que le habían marcado los investigadores, consiguió acceder a parte de su infraestructura y obtener credenciales de acceso, además de consultar una base de datos de clientes.
En el segundo incidente, Mythos 5 encontró unas instrucciones en el entorno de pruebas que indicaban que los desarrolladores debían descargar una herramienta informática que en realidad no existía. Convencido de que seguía dentro de la simulación, decidió crearla él mismo y publicarla en una plataforma utilizada por millones de programadores para compartir software. Para hacerlo, llegó incluso a crear una dirección de correo electrónico y una cuenta de usuario.
El paquete estuvo disponible en internet durante aproximadamente una hora. En ese tiempo fue descargado por quince sistemas reales, entre ellos una empresa de ciberseguridad. Cuando esta ejecutó el código, el modelo obtuvo credenciales que, después, utilizó para acceder a parte de la infraestructura de la compañía.
El tercer y último caso detectado por Anthropic se originó cuando su modelo experimental no logró encontrar el objetivo que buscaba dentro del entorno de pruebas y comenzó a explorar internet. Tras localizar una empresa real, consiguió acceder a parte de sus sistemas aprovechando varios fallos de seguridad. Sin embargo, cuando comprendió que aquella organización no formaba parte del ejercicio, detuvo el ataque por iniciativa propia.

Trump valora nuevos controles

Para Anthropic, estos incidentes demuestran la necesidad de reforzar los controles de seguridad tanto en los entornos de pruebas internas de inteligencia artificial como en los de terceros. Elon Musk, director ejecutivo de SpaceX -firma que cuenta con su propia rama dedicada en concreto a la inteligencia artificial-, señaló en X que casos como estos «sucederán con frecuencia a medida que la IA se vuelva más inteligente y tiene mayor capacidad de acción» sin supervisión humana.
El temor al avance de la inteligencia artificial, especialmente la dedicada a actividades de ciberseguridad, también está provocando que Washington haya comenzado a supervisar el lanzamiento de los nuevos modelos de las empresas afincadas en el país. A inicios de junio, el presidente Donald Trump ordenó a sus asesores desarrollar un marco voluntario de pruebas de ciberseguridad para la IA más avanzada, que incluyera la opinión de los desarrolladores de la tecnología.
Los acontecimientos recientes han provocado que el Gobierno de Estados Unidos esté evaluando ejercer un control todavía mayor sobre la inteligencia artificial. «Estamos analizando la IA, estamos analizando los controles, y también nos estamos asegurando de ser líderes», afirmó esta semana Donald Trump a los medios. Aun así, el presidente remarcó que la Casa Blanca quiere evitar ser demasiado intervencionista para no quedar en un segundo lugar respecto a China en el desarrollo de la tecnología.

Airbus está cada vez más cerca de hacer realidad los vuelos comerciales sin escalas más largos del mundo. Con el desarrollo del avión A350-1000ULR, el fabricante europeo quiere hacer posibles conexiones directas entre ciudades situadas en extremos opuestos del planeta, como Madrid y Sídney, eliminando la necesidad de realizar escalas. Concretamente, esta nueva variante ha sido diseñada para operar vuelos de hasta 22 horas de duración y ampliar en cerca de 1.000 millas náuticas la autonomía del A350-1000 convencional gracias, entre otras mejoras, a la incorporación de un depósito de combustible adicional. Por lo tanto, para demostrar estas capacidades, Airbus ha llevado al límite el A350-1000ULR durante su campaña de pruebas. Acorde a la información compartida por Airbus en un comunicado oficial, la compañía completó recientemente el vuelo más largo de la historia del programa: un trayecto sin escalas de 24 horas y 24 minutos desde Toulouse (Francia) hasta Melbourne (Australia), con el que puso a prueba el comportamiento de la aeronave, sus sistemas y el rendimiento de la tripulación en condiciones extremas.Esta misión forma parte de la campaña de ensayos previa a la entrega de las primeras unidades a Qantas, la aerolínea que utilizará el modelo para inaugurar las rutas ultralargas del Proyecto Sunrise. Además, la prueba también sirvió para validar el confort de la cabina y comprobar el funcionamiento de sistemas esenciales, como el aire acondicionado y la gestión del combustible.El avión completó con éxito un trayecto de más de 23 horasEsta prueba corresponde a un vuelo de desarrollo cuyo objetivo principal consiste en demostrar que el avión puede completar trayectos de hasta 23 horas, siendo el tiempo previsto entre el inicio del despegue y la llegada a la plataforma de destino.Durante el vuelo de prueba, Airbus evaluó distintos sistemas clave para este tipo de operaciones, como el rendimiento del aire acondicionado y la gestión del combustible. En este contexto, uno de los elementos más importantes es el nuevo depósito central trasero, con una capacidad de 20.900 litros, que aumenta la autonomía del avión hasta cerca de 10.000 millas náuticas y hace posibles los vuelos comerciales de ultra largo alcance. Al mismo tiempo, la compañía aprovechó el ensayo para validar el nuevo compartimento de descanso de la tripulación de vuelo, diseñado específicamente para esta variante y dividido en dos zonas independientes, lo que permite que los pilotos entren y salgan de sus áreas de descanso sin interrumpir el descanso de sus compañeros.Además, para garantizar la seguridad y evaluar el impacto de jornadas tan prolongadas, Airbus estableció un sistema de rotación de pilotos. Cada piloto realizaba turnos de cuatro horas, aunque los relevos se producían cada dos horas para que siempre hubiera un periodo de solapamiento entre el piloto entrante y el saliente, favoreciendo una transición fluida y manteniendo en todo momento el conocimiento de la situación. Así es el avión que opera en rutas ultralargas sin escalasEl protagonista de estas pruebas es el A350-1000ULR con número de serie MSN707, un avión que realizó su primer vuelo el pasado 2 de junio y que incorpora una amplia instrumentación para misiones de muy larga duración.El A350-1000ULR ha sido desarrollado específicamente para Qantas Airways y constituye el primero de los doce aviones que la aerolínea australiana ha encargado para operar las rutas sin escalas del Proyecto Sunrise. Sin embargo, la primera unidad que recibirá la compañía será el segundo ejemplar fabricado, cuya entrega está prevista para abril de 2027. Este avión se encuentra actualmente en una fase avanzada de ensamblaje final y, tras salir del taller de pintura, completará la instalación de su cabina de cuatro clases y de los motores antes de iniciar las pruebas previas a su entrada en servicio.Con esta variante, Airbus busca establecer un nuevo referente en los vuelos comerciales de ultra larga distancia. Además de ampliar significativamente la autonomía del A350-1000, el fabricante destaca que el modelo reduce el consumo de combustible y las emisiones de carbono frente a generaciones anteriores, al mismo tiempo que incorpora mejoras orientadas a aumentar el confort de los pasajeros durante trayectos de más de veinte horas.

Los robots humanoides llevan años prometiendo convertirse en los nuevos asistentes domésticos, pero hasta ahora la mayoría de sus demostraciones se habían limitado a laboratorios o vídeos promocionales. Poco a poco esa situación está cambiando y algunas empresas ya han comenzado a ofrecerlos como un servicio real para realizar tareas del hogar.La última en dar el paso ha sido Tau Robotics, una startup con sede en San Francisco que ha lanzado un servicio de limpieza doméstica protagonizado por su robot humanoide Tau. La compañía cobra 30 dólares por hora y, por el momento, el acceso está limitado mediante una lista de espera mientras aumenta su capacidad operativa.Este anuncio llega acompañado de varios vídeos publicados en la red social X, en los que el robot aparece bajando de una furgoneta, preparando el material de limpieza y limpiando distintas estancias de una vivienda a velocidad real. Según la empresa, todas las imágenes se han grabado sin acelerar la reproducción para mostrar el rendimiento del sistema en condiciones reales, sin embargo, a diferencia de lo que podría parecer, Tau todavía no trabaja de forma completamente autónoma porque está controlado por un operador humano remoto y un sistema de inteligencia artificial.Básicamente, esto significa que el modelo híbrido permite completar las tareas mientras la empresa recopila datos para seguir entrenando su tecnología con el objetivo de reducir progresivamente la intervención humana.Contratar el servicio del robot Tau tiene letra pequeñaTau Robotics detalle en su política de privacidad cómo gestiona los datos recopilados durante cada sesión de limpieza. El documento explica que el robot graba vídeo de forma continua a través de las cámaras situadas en la cabeza y las muñecas, captando tanto las estancias de la vivienda como los objetos y las personas que puedan encontrarse en ella.Según la compañía, estas grabaciones son necesarias para que el robot pueda realizar su trabajo y, además, se utilizan para entrenar los modelos de inteligencia artificial que permitirán aumentar su autonomía en el futuro. La empresa deja claro que este tratamiento de datos forma parte del funcionamiento del servicio, por lo que no existe la posibilidad de contratar una modalidad en la que las cámaras permanezcan desactivadas.También, Tau Robotics señala que las imágenes empleadas para entrenar sus modelos no se anonimizan previamente, aunque asegura que no utiliza sistemas de reconocimiento facial ni crea perfiles biométricos de las personas captadas. En cambio, los micrófonos permanecen desactivados y el operador remoto únicamente puede comunicarse con el usuario mediante el altavoz del robot, sin recibir audio desde el interior de la vivienda.Por otro lado, en cuanto a la conservación de la información, la empresa indica que tanto las grabaciones de vídeo como los datos de telemetría se almacenan sin un plazo de eliminación predeterminado y solo se borrarán si el cliente lo solicita expresamente. Asimismo, las condiciones del servicio establecen que la licencia concedida para utilizar ese contenido es permanente, de alcance mundial y gratuita, incluso aunque el usuario cierre posteriormente su cuenta.El robot Tau puede limpiar tu casa y hacerse responsable de los dañosTau Robotics ofrece distintos tipos de servicios, desde mantenimientos periódicos hasta limpiezas profundas para limpiar superficies, aspirar suelos y alfombras, recoger objetos y sacar la basura.Según la compañía, el servicio se contrata por bloques mínimos de una hora, cuyo importe debe abonarse por adelantado a través de Stripe en el momento de la reserva. Asimismo, la política de cancelación establece el reembolso íntegro si se cancela con más de 24 horas de antelación. Por lo tanto, si la anulación se produce dentro de ese plazo, el cliente recuperará únicamente el 50% del importe, mientras que si el robot acude a la vivienda y nadie le permite acceder, no habrá devolución.En este contexto, Tau Robotics también impone varios requisitos para poder ofrecer el servicio. La empresa exige que haya un adulto presente durante toda la sesión de limpieza, por lo que no es posible dejar al robot trabajando solo en una vivienda vacía. Además, no almacena llaves ni códigos de acceso y, antes de la visita, el cliente debe asegurar a las mascotas, retirar los objetos frágiles, informar de cualquier riesgo estructural y garantizar que la vivienda dispone de suministro eléctrico y conexión a internet.En caso de que se produzcan daños materiales, el usuario dispone de 48 horas para presentar una reclamación acompañada de fotografías. La empresa revisará las imágenes grabadas por el robot durante la limpieza y se compromete a responder en un plazo de siete días laborables. Si determina que el robot fue el responsable, podrá reparar el objeto, sustituirlo o reembolsar su valor de mercado, con un límite máximo de 2.500 dólares por reclamación.