Los hackers están causando estragos con la IA: sus creadores quieren sacar provecho

Nunca ha habido un mejor momento para ser un hacker norcoreano. El año pasado, los ciberdelincuentes del país robaron criptomonedas por valor de 2.000 millones de dólares, el triple que hace dos años, según Chainalysis, una firma de investigación. Se espera que el botín … de este año sea mucho mayor. El 29 de octubre, se robaron 6.300 millones de dólares de Binance, la mayor plataforma de intercambio de criptomonedas del mundo. La Oficina Federal de Investigaciones de Estados Unidos ha señalado al reino ermitaño.
Los detalles sobre cómo se llevó a cabo exactamente el atraco son confusos. Binance ha dicho que los hackers accedieron a sus sistemas a través del portátil de uno de sus ingenieros. Lo que está claro es que los rápidos avances en inteligencia artificial de los últimos años han otorgado nuevas capacidades a los ciberdelincuentes, que la utilizan para crear malware, ejecutar sofisticados esquemas de phishing y, cada vez más, analizar el código de software en busca de vulnerabilidades.

El peligro es, paradójicamente, una oportunidad de oro para los laboratorios de IA más avanzados. Sarah Friar, directora financiera de OpenAI, considera que la ciberseguridad será un gran negocio para su empresa en los próximos dos años. Recientemente incorporó a un directivo de Wiz, una firma israelí de ciberseguridad propiedad de Google, para promocionar su software entre empresas. Del mismo modo, en la documentación presentada recientemente para su próxima salida a bolsa, Anthropic, el archirrival de OpenAI, describió la ciberseguridad como «una de nuestras oportunidades a corto plazo más importantes». Sin embargo, aprovechar las oportunidades que plantean los riesgos cibernéticos asociados a la IA será complicado para los creadores de modelos.

Newsletter

La capacidad de la IA para hackear sistemas salió a la luz en abril, cuando Anthropic mantuvo en secreto un modelo avanzado llamado Mythos y, en su lugar, lo ofreció a determinados proveedores de software e instituciones financieras para ayudarles a identificar brechas en sus ciberdefensas. OpenAI no tardó en presentar su propia solución. La tecnología del fabricante de ChatGPT se utilizó recientemente para identificar un conjunto de vulnerabilidades en PHP, un lenguaje de programación que sustenta gran parte de la web.
Algunos esperan que el gasto en software de ciberseguridad—que alcanzó los 150.000 millones de dólares el año pasado, según IDC, un proveedor de datos—se incremente drásticamente a medida que las empresas se enfrentan a una amenaza cada vez mayor. Greg Brockman, cofundador de OpenAI, predijo recientemente que, con el tiempo, la cifra «superará con creces» el gasto en otros tipos de software. El mes pasado, Andreessen Horowitz, una firma de capital riesgo, instó a las empresas en las que ha invertido a considerar la posibilidad de duplicar sus gastos. Goldman Sachs, un banco, ha incrementado considerablemente la proporción de su presupuesto de IA que destina a la ciberseguridad, según personas familiarizadas con esta iniciativa.
Para los laboratorios de IA, detectar vulnerabilidades cibernéticas resulta especialmente adecuado para su tecnología. Al igual que la programación, es un «dominio verificable» en el que los modelos pueden aprender respondiendo correctamente a las preguntas, explica Nazneen Rajani, directora ejecutiva de Collinear AI, que ofrece servicios de evaluación de modelos.
Uno de los retos hasta ahora ha sido que, aunque los modelos de vanguardia han demostrado ser capaces de «encontrar agujas en el pajar», han sido menos útiles a la hora de priorizar y corregir vulnerabilidades, afirma Bobby Kuzma, de IDC. Eso podría cambiar. En septiembre, Collinear AI publicó una prueba de ciberseguridad que medía la eficacia de los modelos para encontrar y corregir vulnerabilidades. La mejor oferta de Anthropic en ese momento superó menos de la mitad de las tareas. El mes pasado, un nuevo modelo de Google obtuvo una puntuación del 71%.

Uno de los retos hasta ahora ha sido que, aunque los modelos de vanguardia han demostrado ser capaces de «encontrar agujas en el pajar», han sido menos útiles a la hora de priorizar y corregir vulnerabilidades

El mayor desafío podría ser lograr que las empresas replanteen el uso de sus presupuestos de ciberseguridad. El sector dedicado a la identificación y corrección de vulnerabilidades está muy fragmentado, y sus clientes tienden a adquirir herramientas de diversos proveedores y a recurrir a consultoras de TI para ayudar en la implementación. Anthropic y OpenAI, en cambio, están proponiendo que sus bots recorran toda la base de código de una empresa y corrijan las vulnerabilidades a medida que las detectan.
Últimamente, el mercado de la ciberseguridad se está concentrando en un número menor de plataformas, entre ellas proveedores independientes como Palo Alto Networks y gigantes de la nube como Microsoft. Estas empresas también ofrecen herramientas para otras tareas en las que los modelos de IA actualmente resultan menos útiles, como garantizar que solo los usuarios autorizados puedan acceder a los sistemas y gestionar las violaciones de seguridad cuando se producen.
Estas empresas consolidadas llevan años ganándose la confianza de sus clientes. En los últimos meses, en cambio, los principales laboratorios de IA han tenido problemas para controlar sus propias creaciones, con episodios embarazosos como el ocurrido en julio, cuando un sistema de OpenAI se infiltró en Hugging Face, una biblioteca de modelos, sin que se le indicara que lo hiciera. Algunos en la industria de la ciberseguridad son escépticos con respecto a que los creadores de modelos logren forjar las relaciones necesarias para convertirse en proveedores líderes del sector. En cambio, la oportunidad puede residir en distribuir su tecnología a través de terceros, al tiempo que fomentan que las empresas reescriban el código de forma segura desde cero utilizando sus modelos. Los norcoreanos estarán esperando que fracasen.