Publicado: octubre 26, 2026, 4:24 pm
Los modelos de inteligencia artificial son cada vez más capaces de detectar vulnerabilidades en los sistemas informáticos y encontrar formas de sortear sus restricciones, sin embargo, esta capacidad plantea nuevos desafíos para las empresas que desarrollan estas tecnologías, que deben evitar que sus propios modelos accedan a recursos o redes para los que no tienen autorización durante el entrenamiento.
Ante dicho escenario, OpenAI ha reforzado la seguridad de sus entornos de investigación después de detectar que uno de sus modelos había conseguido acceder parcialmente a internet durante una sesión de entrenamiento, un incidente que ha llevado a la compañía de Sam Altman a revisar sus sistemas de protección.
Para ello, OpenAI ha decidido que la conexión a internet en tiempo real queda fuera de los entrenamientos porque puede suponer riesgos significativos al afectar a los sistemas que se escapan de control, teniendo en cuenta que, a medida que los modelos mejoran en la detección y explotación de vulnerabilidades, la compañía necesita mecanismos de defensa para mantener la contención.
OpenAI entrena a sus modelos tener acceso a internet
En una publicación de su página oficial, OpenAI informa que los modelos con capacidades cibernéticas sofisticadas pueden eludir la contención durante su entrenamiento y evaluación, por lo tanto, en respuesta a estos incidentes, han reforzado la seguridad de sus entornos de investigación.
Así lo ha dado a conocer la compañía: «Trabajando en estrecha colaboración con los proveedores de servicios en la nube, hemos añadido nuevos controles en toda nuestra infraestructura, reducido la superficie de ataque que los agentes pueden explotar y mejorado nuestros métodos para detectar comportamientos anómalos e intentos de traspasar los límites de seguridad. Estas protecciones se superponen, de modo que la contención se mantiene incluso si falla un control individual; una estrategia conocida como defensa en profundidad. Basándonos en el estado actual de la investigación sobre alineación, los sistemas de monitoreo y la seguridad de la infraestructura de internet, creemos que lo más responsable es realizar el entrenamiento de modelos de vanguardia sin acceso a internet«.
Según OpenAI, esta política se mantendrá hasta que los avances en estas medidas de seguridad justifiquen un acceso más amplio a internet, así se detectan y detienen comportamientos sofisticados y malintencionados antes de que causen daños.
El red teaming como barrera frente a futuras amenazas
OpenAI puso en marcha una campaña de pruebas de seguridad con agentes de sus modelos más avanzados para detectar vulnerabilidades y errores de configuración en su infraestructura.
El objetivo era comprobar si podían encontrar formas de acceder a internet sin autorización o eludir las medidas de protección y, acorde a la información compartida, estos experimentos de pruebas de penetración (red teaming) permitieron descubrir fallos de software hasta entonces desconocidos, así como configuraciones incorrectas.
Como resultado, la compañía corrigió las vulnerabilidades detectadas y, cuando afectaban a programas de código abierto, colaboró con sus responsables para comunicar los problemas y facilitar su solución. No obstante, pese a que el número de fallos identificados disminuyó con las sucesivas pruebas, OpenAI advierte de que los futuros modelos podrían descubrir nuevas vulnerabilidades. Por ello, ha incorporado estos análisis a sus evaluaciones de seguridad y, tras completar las comprobaciones e introducir mejoras, reanudó el entrenamiento por refuerzo y la inferencia interna de sus modelos más avanzados.
Con dicha decisión, la compañía de Altman se compromete a fortalecer su infraestructura de contención, monitoreo y pruebas de penetración a medida que sus modelos de vanguardia se vuelven más capaces. Además, creen que este trabajo será una «parte fundamental» para gestionar de manera «responsable» el desarrollo de futuros modelos de IA.
