Publicado: septiembre 28, 2026, 5:40 pm
Estos últimos meses, varios agentes de inteligencia artificial salieron de los límites previstos por sus creadores, atacando a sistemas informáticos ajenos sin haber recibido tal orden. Todo comenzó con el ataque de OpenAI a Hugging Face y ahora hasta los gobiernos sufren ciberataques . Ante esta situación de peligro e incertidumbre, Nvidia ha lanzado Open Agent Safety Platform, un sistema de seguridad de código abierto diseñado para evitar las conductas imprevistas de la IA. El proyecto incluye herramientas creadas para actuar como un «cortafuegos» que aísla la actividad de los programas autónomos mientras ejecutan sus tareas, según explicó ‘ Wired ‘. El objetivo de Nvidia es ofrecer a las tecnológicas un riguroso control sobre las acciones de sus sistemas de IA, evitando que encuentren vías alternativas para vulnerar redes informáticas o escapar de los entornos de prueba. El proyecto de Nvidia está compuesto por OpenShell y Sentry. La primera actúa como un entorno de aislamiento que limita la acción del agente de IA directamente en el núcleo del sistema operativo, que coordina el software y el hardware del equipo. Por otro lado, Sentry funciona como un mecanismo de vigilancia independiente instalado en microchips específicos y puede aislar inmediatamente cualquier programa que intente superar los permisos otorgados. Justin Boitano, vicepresidente y director general de informática empresarial de Nvidia, afirmó en declaraciones recogidas por ‘ Business Standard ‘ que podrían haber impedido el ataque a Hugging Face: «Por lo que sabemos, esta nueva plataforma de seguridad podría haber evitado la brecha de seguridad si se hubiera utilizado desde el principio en los laboratorios de vanguardia para la evaluación de modelos. Estamos impulsando esta iniciativa de forma abierta y queremos que todo el mundo colabore con nosotros». «Estamos hablando de un comportamiento agéntico, que consiste en flotas de agentes y cómo operan juntos», señaló Ali Golshan, director senior de software de IA en Nvidia, sobre el complejo comportamiento de la IA. «Los agentes son muy creativos a la hora de buscar formas de alcanzar los objetivos que se les asignan», añadió Boitano, «con esto, los agentes solo tienen acceso a la intención que el equipo de seguridad quiere que tengan». Nvidia quiere convertir su plataforma en un estándar para las tecnológicas, colaborando con empresas como Anthropic, Cisco, CrowdStrike o Microsoft. La multinacional también trabaja con fabricantes de procesadores como Intel o Arm para garantizar que sus herramientas funcionen en diferentes arquitecturas de microchips. La compañía de Jensen Huang posee una visión práctica de la seguridad que aborda los riesgos de la IA como un desafío de ingeniería, al igual que entendemos otros sistemas de seguridad, como el de un automóvil.
