Publicado: septiembre 15, 2026, 5:29 pm
ChatGPT se ha convertido en una herramienta habitual para resolver dudas, redactar textos o trabajar con información personal. Como ocurre con otros servicios de inteligencia artificial, parte de las conversaciones puede utilizarse para mejorar sus modelos y, en algunos casos, llegar a revisores humanos. Eso es precisamente lo que ha revelado una investigación publicada por 404 Media: el medio especializado ha mostrado cómo funciona Project Lily, un programa en el que cientos de trabajadores externos analizan conversaciones reales mantenidas con el chatbot de OpenAI.
La investigación, publicada el 14 de septiembre, se basa en documentos internos filtrados, instrucciones proporcionadas a los trabajadores y conversaciones reales a las que tuvo acceso el medio. Según 404 Media, OpenAI contrata a cientos de revisores que reciben un gran flujo de mensajes escritos por usuarios de ChatGPT para evaluar las respuestas generadas por la inteligencia artificial.
Su función consiste en analizar lo que buscaba conseguir el usuario, puntuar y criticar las respuestas proporcionadas por la IA y ayudar a corregir determinados comportamientos del chatbot.
Por ejemplo, los documentos consultados muestran que parte de este trabajo está destinado a conseguir que ChatGPT no se presente como si fuese una persona y a reducir comportamientos excesivamente complacientes con el usuario.
Los revisores pueden encontrarse conversaciones completas y datos personales
Lo especialmente relevante de la investigación es de dónde sale el material que reciben esos trabajadores: entre el contenido utilizado hay mensajes procedentes de usuarios reales de ChatGPT.
En algunos casos, los revisores pueden acceder incluso a conversaciones completas entre una persona y el chatbot, según 404 Media. Esto resulta especialmente delicado teniendo en cuenta que muchos usuarios utilizan estas herramientas para consultas personales, profesionales o relacionadas con aspectos íntimos de sus vidas.
Esto no significa, sin embargo, que cientos de personas puedan entrar libremente en el historial de cualquier usuario de ChatGPT ni que todas las conversaciones sean leídas por humanos. Los trabajadores que participan en Project Lily no reciben el nombre de usuario asociado a la conversación. OpenAI también aplica sistemas destinados a eliminar información personal antes de que esos mensajes lleguen a los revisores.
La propia compañía explica que utiliza un sistema denominado Privacy Filter, diseñado para detectar y ocultar información personal antes de que determinados contenidos se incorporen a procesos de entrenamiento. Este filtro también se aplica a conversaciones de usuarios que tienen activada la opción de permitir que sus chats se utilicen para mejorar los modelos.
OpenAI reconoce que Privacy Filter puede cometer errores y pasar por alto determinados identificadores o referencias privadas. Según la investigación de 404 Media, eso implica que información sensible puede permanecer en algunas conversaciones y llegar a los revisores humanos.
La existencia de Project Lily aporta así nuevos detalles sobre una práctica que OpenAI sí reconoce de forma general. La compañía explica públicamente que las conversaciones mantenidas en los servicios destinados a particulares pueden utilizarse para entrenar y mejorar sus modelos, salvo que el usuario decida excluirse.
Lo que permite conocer ahora la investigación es el componente humano que participa en parte de ese proceso y la posibilidad de que esas personas encuentren información privada dentro de las conversaciones que revisan.
Cómo evitar en la mayor medida posible que tus conversaciones sean revisadas
La principal medida que puede tomar cualquier usuario de ChatGPT es impedir que sus nuevas conversaciones se utilicen para entrenar los modelos de OpenAI.
Para hacerlo en la versión web hay que pulsar sobre el perfil, entrar en Configuración > Controles de datos y desactivar la opción ‘Mejorar el modelo para todos‘. OpenAI asegura que, una vez desactivada, las nuevas conversaciones seguirán apareciendo normalmente en el historial, pero no se utilizarán para entrenar ChatGPT. La configuración se sincroniza además entre los diferentes dispositivos en los que se utilice la misma cuenta.
Para conversaciones especialmente delicadas existe otra opción: utilizar un Chat temporal. OpenAI indica que estas conversaciones no aparecen en el historial, no crean recuerdos y no son utilizadas para entrenar sus modelos. Se conservan temporalmente durante un periodo limitado por motivos de seguridad y pueden revisarse para detectar posibles abusos. Puedes iniciar un chat temporal haciendo clic en el icono de la esquina superior derecha de la pantalla de chat.
También conviene tener cuidado al enviar valoraciones mediante los botones de aprobación o desaprobación de una respuesta. OpenAI advierte de que, aunque el usuario haya desactivado el entrenamiento, si envía comentarios sobre una interacción, la conversación completa asociada a ese feedback puede utilizarse para entrenar sus modelos.
Ninguna configuración sustituye, además, una precaución básica: no introducir en un chatbot información extremadamente sensible si no es imprescindible, como contraseñas, credenciales bancarias, documentación confidencial o datos personales de terceros.
