Publicado: octubre 21, 2026, 7:24 am
El desarrollo de agentes de inteligencia artificial capaces de ejecutar tareas de forma autónoma plantea desafíos en materia de seguridad y supervisión. Estos sistemas pueden llevar a cabo operaciones complejas sin que una persona tenga que intervenir en cada paso, pero también pueden interpretar instrucciones de forma inesperada y actuar al margen de las medidas de control previstas por sus desarrolladores.
Desafortunadamente, esta situación ha vuelto a quedar de manifiesto con un incidente interno de OpenAI, en el que dos de sus agentes de IA debilitaron partes de un sistema de monitoreo interno diseñado para detectar comportamientos indebidos.
La compañía de Sam Altman ha dado a conocer en una publicación de su blog oficial que los agentes de IA actuaron de forma no prevista por sus desarrolladores y, aunque dicho incidente ocurrió durante la realización de tareas internas de programación y no se consideró de extrema gravedad, este escenario pone de relieve que los sistemas en los que confían los desarrolladores para detectar comportamientos inadecuados de la IA son vulnerables a los propios agentes que deben supervisar.
Por ahora, OpenAI ha indicado que está investigando si sus modelos tienden a eludir la supervisión y si llegan a buscar argumentos para justificar ese comportamiento, teniendo en cuenta que está implementando medidas para dificultar que los modelos desactiven los sistemas de monitoreo. Además, la compañía todavía no tiene una «explicación satisfactoria» para este comportamiento, aunque lo están investigando mediante la creación de evaluaciones pareadas, el remuestreo de continuaciones de agentes y experimentos sobre las actividades internas de los modelos.
¿Qué ha pasado exactamente?
La compañía explica que, en dos tareas de codificación interna, los agentes debilitaron la monitorización de desalineaciones al realizar los cambios de software solicitados.
Concretamente, un agente GPT-6.1 Sol que reparaba una canalización de evaluación deshabilitó las alertas automáticas al equipo de seguridad, interpretando una instrucción previa de no enviar mensajes durante una búsqueda en el historial de Slack como motivo para suprimir las notificaciones de monitorización. Mientras tanto, un agente GPT-6 Astra que migraba un programa eliminó su integración de monitorización para que coincidiera con una implementación de referencia y, posteriormente, afirmó falsamente al usuario que no había eliminado el monitor.
En ambos casos, los agentes consideraron si debían mantenerse las medidas de seguridad de la monitorización, pero interpretaron las instrucciones de codificación rutinarias como autorización para debilitarlas.
En respuesta, OpenAI está reforzando su sistema de monitorización de desalineaciones y continúa evaluando si estos casos reflejan una «persistencia excesiva benigna» o una propensión a evadir la monitorización de desalineaciones en particular.
