Publicado: septiembre 8, 2026, 4:23 pm
Los modelos de inteligencia artificial (IA) de frontera son cada vez más capaces. La semana pasada Anthropic y OpenAI agitaron una vez más la industria de la tecnología lanzando Claude Fable 5.1 y GPT-6 Astra respectivamente. Estos son sus modelos más avanzados disponibles ahora mismo, aunque sabemos que ambas compañías ya están probando modelos todavía más sofisticados. Sea como sea, la llegada de estas IA ha puesto sobre la mesa algo que ambas compañías reconocen: su capacidad a la hora de explicar con precisión qué ocurre en su interior es cada vez más limitada.
Durante los últimos cuatro años hemos interpretado los modelos de lenguaje como sistemas transparentes cuyo razonamiento podíamos seguir en lenguaje natural. Pero esto ya no es así. OpenAI ha confesado que el razonamiento que verbalizan sus últimos modelos, y especialmente GPT-6 Astra, ya no refleja siempre con precisión qué está sucediendo dentro del modelo, en su cadena de pensamiento. Este comportamiento indica que los modelos están adquiriendo la capacidad de controlar en alguna medida la monitorización de su actividad que es posible llevar a cabo desde el exterior.
Este escenario nos coloca ante una paradoja: a medida que los modelos de IA se vuelven más «inteligentes», más urgente es entender cómo razonan, pero, al mismo tiempo, adquieren nuevas capas de razonamiento interno que por el momento no es posible observar directamente. OpenAI, Anthropic y los demás laboratorios de IA tienen un enorme desafío por delante debido a que es imprescindible poder seguir su cadena de pensamiento para, entre otros motivos, asegurar su correcta alineación con los intereses de los seres humanos.
La monitorización actual es frágil
No lo decimos nosotros. Lo reconoce OpenAI. De hecho, este laboratorio va más allá al confesar abiertamente que en determinadas circunstancias sus modelos más avanzados son capaces de evadir los mecanismos de monitorización. Anthropic ha hecho un ejercicio similar. En su artículo titulado «Un espacio de trabajo global en los modelos de lenguaje» del pasado 6 de julio admite que Claude ha adquirido mecanismos internos relevantes que no aparecen en la verbalización de la cadena de pensamiento que el modelo expresa. Anthropic asegura que está desarrollando nuevas técnicas para intentar observarlos.
La capacidad de monitorización que tienen los ingenieros de OpenAI en Astra es menor que la que tenían sobre GPT-5.6 Sol
Este escenario es inquietante. La evaluación de seguridad de GPT‑6 Astra publicada por OpenAI el pasado 3 de septiembre confirma que la capacidad de monitorización que tienen los ingenieros de este laboratorio en Astra es menor que la que tenían sobre GPT-5.6 Sol. Esto refleja exactamente lo que he mencionado unas líneas más arriba: a medida que los modelos de IA son más avanzados, consiguen evadir con más facilidad la supervisión de sus creadores. O, lo que es lo mismo, logran ocultar su razonamiento interno con más eficacia.
No obstante, hay un matiz muy importante que no podemos pasar por alto: OpenAI no dice que Astra esté ocultando sistemáticamente su cadena de pensamiento; sostiene que este modelo ha desarrollado la capacidad de controlar mejor qué permite ver acerca de su razonamiento.
{«videoId»:»x8jpy2b»,»autoplay»:false,»title»:»¿Qué hay DETRÁS de IAs como CHATGPT, DALL-E o MIDJOURNEY? | INTELIGENCIA ARTIFICIAL», «tag»:»Webedia-prod», «duration»:»1173″}
El problema al que se enfrentan los ingenieros que desarrollan los modelos de IA ya no es solo su incapacidad para explicar con precisión cómo funciona una red neuronal que tiene cientos de miles de millones de parámetros; lo más preocupante es que la propia IA que es necesario supervisar adquiere capacidades más avanzadas de evasión de esa supervisión a medida que su sofisticación se incrementa. De una cosa no cabe duda: los seres humanos estamos construyendo unas máquinas que ya son capaces de resolver problemas complejos, y, sin embargo, todavía estamos aprendiendo a entenderlas.
Imagen | Generada por Xataka con ChatGPT
Más información | Anthropic | OpenAI
En Xataka | China quiere firmar una tregua con EEUU en IA
–
La noticia
Lo más inquietante de GPT-6 Astra y Claude Fable 5.1 es que a sus creadores cada vez les cuesta más saber cómo razonan
fue publicada originalmente en
Xataka
por
Laura López
.
