Poco después de las nueve de la mañana del 19 de mayo de 1998, siete hackers de un grupo llamado L0pht entraron en un edificio de oficinas del Senado en Washington, D.C. Bajo seudónimos, ‘Mudge’, ‘Space Rogue’, ‘Kingpin’ y otros cuatro se presentaron con … trajes que les quedaban mal para advertir a la Comisión de Asuntos Gubernamentales de que cualquiera de ellos podía dejar Internet inutilizable en 30 minutos. Catorce años después, Leon Panetta, entonces secretario de defensa de Estados Unidos, advirtió de un «Pearl Harbor cibernético».
La ciberseguridad tiene una larga historia de profecías apocalípticas que, a pesar de los numerosos ataques y daños puntuales, nunca llegan a materializarse del todo. Ahora, catorce años más tarde, hay una nueva ola de catastrofismo. En abril, Anthropic, un laboratorio pionero en IA, afirmó que su último modelo, Claude Mythos, era tan eficaz en el hackeo que no se haría público. A finales de julio, su principal rival, OpenAI, reveló que varios de sus agentes de IA se habían escapado de un entorno de pruebas y habían entrado en Hugging Face, una biblioteca de modelos de IA. Durante las dos semanas siguientes se produjeron revelaciones similares por parte de Anthropic, Meta y el Instituto de Seguridad de la IA del Reino Unido.
Un medio de comunicación, captando la creciente sensación de aprensión, lo calificó como «el comienzo de una peligrosa era cibernética de la IA». ¿Es diferente esta vez? ¿O sigue manteniéndose el delicado equilibrio entre ataque y defensa? En su mayor parte, y afortunadamente, sí se mantiene, por dos razones.
Newsletter
En primer lugar, se repite una y otra vez el patrón según el cual los anuncios aterradores dan paso a valoraciones más mesuradas en cuestión de semanas. La afirmación más destacada de Anthropic sobre Mythos fue que había encontrado un fallo en un software muy utilizado que se remontaba nada menos que a la famosa audiencia del Senado. Sin embargo, análisis posteriores demostraron que la amenaza era mucho menos grave de lo que sugerían los titulares. En cuestión de semanas, las predicciones de un tsunami de ataques de IA habían dado paso a previsiones de un mero periodo tormentoso y, posteriormente, a hablar de la IA como una oportunidad para mejorar la seguridad. Si la IA es buena para detectar puntos débiles, también puede ayudar a solucionarlos.
Del mismo modo, los agentes supuestamente «rebeldes» no son tan peligrosos como parecen a simple vista. No se estaban rebelando. Hacían lo que los humanos les habían ordenado, con la precocidad y la indisciplina de niños con talento pero sin supervisión. No causaron ningún daño real.
Falta de control del entorno de pruebas
Los incidentes difieren en los detalles, pero el factor común es la falta de control del entorno de pruebas. Esto debe mejorarse. Algunos en el mundo cibernético expresaron su asombro ante la debilidad de los controles de las pruebas, señalando que unas pruebas de empresas de seguridad que acabaran con los mismos resultados podrían dar lugar a demandas e incluso a procesos judiciales. Ese principio de responsabilidad es crucial y va más allá de las pruebas. Los agentes pueden actuar de forma autónoma, pero no son autónomos: quien pone a uno a trabajar es responsable de lo que hace. Si el mundo permite que los agentes de IA actúen sin control ni rendición de cuentas, los ciberataques serán uno de los problemas menores que se derivarán de ello.
La segunda razón para mantener la calma radica en comprender a los hackers. Los informes sobre Mythos y los agentes se refieren a condiciones de prueba artificiales. Utilizar agentes para hackear en el mundo real implica sortear las barreras de seguridad e incurrir en costes informáticos extremadamente elevados. Estas limitaciones son importantes: tras varios años en la era de la IA, las pruebas de que los hackers maliciosos estén utilizando técnicas avanzadas de hackeo basadas en IA siguen siendo notablemente escasas.
El año pasado, un documento de trabajo del MIT Sloan, redactado en colaboración con un proveedor de seguridad de IA, afirmaba que el 80% de los incidentes de ransomware, la forma más dañina de ciberdelito, estaban impulsados por IA. Los departamentos de marketing aprovecharon este hallazgo. Publicaciones de prestigio lo difundieron ampliamente. Sin embargo, el documento fue retirado después de que los críticos se dieran cuenta de que había incluido, entre otras cosas, a WannaCry —el ataque de 2017 en el que unos hackers norcoreanos, que fallaron en su objetivo, causaron estragos en más de 150 países— como impulsado por IA.
Técnicas rudimentarias y fallos básicos
Una de las personas que detectó esta afirmación sin sentido fue Marcus Hutchins, un experto británico en ciberseguridad al que se le atribuye haber detenido WannaCry. Ahora afincado en Estados Unidos, Hutchins se desespera ante el «alboroto por Mythos», dado que «la planta local de tratamiento de aguas funciona con Windows XP», un producto de Microsoft que ya estaba obsoleto cuando WannaCry atacó, y «el protocolo que enruta el tráfico de Internet está protegido simplemente porque todo el mundo está de acuerdo en que secuestrarlo no estaría bien».
Ambos puntos son cruciales. Mudge y otros ya advirtieron en 1998 que partes fundamentales de la arquitectura de Internet eran tremendamente inseguras. Algunas de ellas siguen siéndolo. La razón por la que nadie ha colapsado Internet es que ningún hacker capaz, salvo un nihilista total, tiene motivos para hacerlo, y quien lo hiciera se enfrentaría a graves consecuencias. Esa ha sido, y sigue siendo, la base inestable de la vida digital moderna.
La observación de Hutchins sobre las infraestructuras críticas es aún más oportuna. Mientras los medios de comunicación se quedaban boquiabiertos ante los fallos en las pruebas de IA, en el mundo real los hackers estaban atacando instalaciones de abastecimiento de agua en una docena de estados estadounidenses. Fueran quienes fueren —algunos apuntan a Irán, pero el presidente Donald Trump lo niega—, utilizaban técnicas rudimentarias que aprovechaban fallos básicos de seguridad, no IA avanzada. Solo se evitó una grave interrupción del suministro gracias al agua almacenada, a las válvulas manuales y a la atención del personal.
Ciberseguridad subyacente débil
Y ahí está el quid de la cuestión: la ciberseguridad subyacente suele ser tan débil que los hackers no necesitan nuevas técnicas costosas. La IA aún no otorga a la mayoría de los hackers nuevos poderes mágicos. Sin embargo, sí puede ayudarles a prepararse, a acelerar sus acciones y a ampliarlas. Eso podría aumentar la probabilidad de que la negligencia en materia de seguridad acabe pasando factura a las organizaciones.
Esta es la lección aburrida, pero vital. En Black Hat, una conferencia sobre seguridad celebrada este mes en Las Vegas, dos empleados de OpenAI presentaron una ponencia sobre el incidente de Hugging Face. Su recomendación final fue que la aplicación de principios de seguridad básicos y consolidados habría contribuido en gran medida a contener a los agentes demasiado entusiastas de OpenAI. Quizá resulte deprimente, pero, si hace falta un bombo exagerado sobre bots de IA omnipotentes que se lanzan a una oleada de ataques para que Occidente se centre por fin en subsanar los fallos de ciberseguridad que llevan mucho tiempo poniendo en riesgo el suministro de agua y otros servicios vitales, que así sea.