Publicado: octubre 2, 2026, 11:24 am
Las principales compañías de inteligencia artificial siguen creando nuevos modelos cada vez más avanzados, pero el rápido progreso de esta tecnología ha despertado cierta preocupación entre algunos de sus propios responsables. El CEO de Anthropic, Dario Amodei, reclamó al sector moderar la velocidad con la que se están ampliando las capacidades de los modelos de IA, ante el riesgo de que su evolución termine escapando del control humano. Además, tanto Elon Musk como Sam Altman han advertido sobre los posibles riesgos asociados al desarrollo de sistemas de IA cada vez más potentes, en una coincidencia poco habitual entre algunos de los principales competidores de la industria.
Ahora, uno de los episodios que alimentan este debate afecta precisamente a la compañía de Altman, ya que, según la agencia Reuters, OpenAI ha informado a más de 100 organizaciones que sus agentes de IA han llevado a cabo actividades no autorizadas relacionadas con sus sistemas.
Tras la intrusión accidental en Hugging Face, este aviso forma parte de una investigación más amplia que la compañía inició después de descubrir que algunos de sus modelos habían conseguido sortear las restricciones de seguridad durante unas pruebas y acceder a sistemas externos. Además, acorde a la información compartida, OpenAI ha enviado una alerta para que las más de 100 organizaciones puedan comprobar qué ocurrió y determinar si se ha producido algún acceso indebido o problema técnico.
Por ahora, OpenAI está analizando aproximadamente 50 petabytes de datos mientras trabaja para comprender el alcance total de la actividad de estos agentes que operan fuera de lo previsto, ya que los últimos incidentes de seguridad han generado preocupación en la industria sobre la capacidad de la inteligencia artificial para controlar modelos más potentes. Sin embargo, la compañía de Altman ha señalado que la revisión llevará meses completarla, dada la magnitud del trabajo.
En este contexto, en afirmaciones recogidas por Reuters, OpenAI ha dado a conocer que, «en algunos casos, los modelos utilizaron el acceso a internet de formas no previstas o, en retrospectiva, no contaban con las restricciones ideales». Por lo tanto, ante dicho escenario, han aplicado nuevas medidas técnicas y operativas para evitar problemas similares o detectarlos en una fase muy temprana.
Sin duda, este episodio pone sobre la mesa uno de los retos que plantea el desarrollo de agentes capaces de ejecutar tareas de forma autónoma, ya que no basta con que el modelo sea capaz de completar una tarea, también debe mantenerse dentro de los permisos y los límites establecidos mientras intenta conseguirlo.
