OpenAI llevaba un tiempo trabajando en un «modo adulto» para ChatGPT, una función pensada para que los usuarios mayores de edad, previamente verificados, pudieran mantener conversaciones con contenido erótico dentro del chatbot. Eso sí, siempre bajo un sistema de control de edad que evitará el acceso de menores. El proyecto fue anunciado el año pasado y retrasado varias veces, pero ahora la compañía de Sam Altman ha decidido suspenderlo sin fecha de lanzamiento.Suspenden el «modo adulto» de ChatGPT por tiempo indefinidoSegún informan desde Engadget, la decisión se debe a problemas técnicos y a dudas internas sobre si esta función encaja con los objetivos de la empresa. Como decimos, el lanzamiento estaba previsto para diciembre, pero OpenAI lo fue posponiendo para centrarse en otras prioridades. Con el paso del tiempo, empezaron a aparecer problemas y uno de los más importantes fue el entrenamiento de los modelos.Los sistemas que estaban diseñados para bloquear contenido erótico no consiguen adaptarse bien para generarlo de forma controlada, además de que tenían dificultades para eliminar contenidos ilegales, como el incesto. A estas complicaciones técnicas se sumaron dudas dentro de la propia empresa. Algunos empleados e inversores cuestionaron si el modo adulto de ChatGPT encajaba con el objetivo de OpenAI de desarrollar una IA útil y segura para la sociedad. También hubo cierta incertidumbre sobre si realmente tendría sentido como producto, aunque otro punto clave fue el sistema de verificación de edad.Tal y como reflejaron las pruebas, tenía un margen de error superior al 10%, lo que significa que muchos menores podrían haber accedido al modo adulto. Con todo esto, OpenAI ha tomado la decisión de suspender el proyecto de forma indefinida, apenas unas horas después de hacer lo propio con Sora, su app para generar videos con IA.

La neurotecnología vuelve a situarse en el centro del debate con un avance que hace apenas unos años parecía imposible. La compañía Neuralink, fundada por Elon Musk, ha mostrado cómo uno de sus implantes cerebrales ha permitido a un paciente con esclerosis lateral amiotrófica (ELA) comunicarse de nuevo mediante una voz generada directamente a partir de su actividad cerebral.En un vídeo publicado por la propia empresa, Neuralink presenta el caso de un paciente que ha perdido la capacidad de hablar debido a la ELA, pero que ahora puede expresarse gracias al chip que tiene implantado en su cabeza, una interfaz cerebro-computadora (BCI, por sus siglas en inglés) diseñada por la empresa de Musk. El sistema convierte las señales neuronales asociadas al habla en palabras que se reproducen en un ordenador con una voz sintetizada casi en tiempo real.El propio paciente de este ensayo clínico —denominado VOICE— lo resume en una frase tan simple como reveladora: “Te estoy hablando con mi mente”.La tecnología no consiste en ‘leer pensamientos’, sino en descodificar las señales eléctricas que el cerebro envía cuando intenta articular palabras. Aunque el paciente no pueda mover los músculos del habla, su cerebro sigue generando esas órdenes y ahí es donde entra el implante.El sistema necesita un proceso de aprendizaje previo en el que el usuario intenta formar palabras mentalmente mientras el software identifica los patrones neuronales. Con el tiempo, el modelo es capaz de interpretar esas señales y transformarlas en lenguaje comprensible.Kenneth es el segundo paciente de VOICE. En el vídeo, su pareja explica que esta nueva voz es como la que tenía antes de que su enfermedad empezase a mostrar síntomas, hace ya seis años. Pero no fue hasta enero de 2024 cuando le diagnosticaron ELA.Según datos ofrecidos por Neuralink, aproximadamente entre el 80 % y el 95 % de las personas con ELA pierden la capacidad de hablar a medida que la enfermedad progresa y muchos pacientes pierden completamente la capacidad funcional del habla entre 2 y 3 años después del inicio de los síntomas.Un paso más allá de controlar un ordenador con la menteHasta ahora, los avances más visibles de Neuralink se habían centrado en permitir a personas con parálisis interactuar con dispositivos, como mover un cursor o escribir en una pantalla. Esto se hacía con el chip Telepathy, que se implantó con éxito por primera vez en un ser humano en enero de 2024.Desde que se dio a conocer el caso de Noland Arbaugh, la primera persona con un implante de Neuralink, al menos otras doce personas habrían sido implantadas con interfaces cerebro-máquina de la compañía, según confirmó Musk a finales del año pasado. Pero sus planes son mucho más ambiciosos: la compañía espera alcanzar unos ingresos anuales de 1.000 millones de dólares en 2031, gracias a la implantación de sus chips en al menos 20.000 personas cada año.Este nuevo caso va un paso más allá, ya que se centra directamente en recuperar una función esencial como es el habla. Aunque ya existían desarrollos similares que permitían generar voz a partir de grabaciones previas del paciente, el sistema mostrado por Neuralink busca mayor inmediatez y naturalidad en la comunicación.Además de VOICE y Telepathy, Neuralink también trabaja en el proyecto Blindsight, cuyo objetivo es curar la ceguera de las personas. Incluso Musk ha alardeado de que su compañía podrá llegar a “restaurar la funcionalidad de todo el cuerpo”.Sin embargo, pesar de los avances, este tipo de implantes sigue en fase experimental y se está probando en un número muy limitado de pacientes. A los retos técnicos se suman cuestiones médicas y éticas, especialmente relacionadas con la seguridad de los implantes y la gestión de los datos neuronales.

La inteligencia artificial no es tan distinta de las redes sociales. Como ocurre con Instagram o TikTok, las herramientas de la clase de ChatGPT tienen sus propios trucos para conseguir que el usuario pase el mayor tiempo posible conectado. Si las has probado alguna … vez, seguro que te has fijado que al final de la respuesta que te dan a cada consulta, te lanzan una pregunta de vuelta para ver si consiguen convencerte que te quedes charlando un ratito más. También suelen darte la razón en todo o casi todo. Y eso puede terminar convirtiéndose en un problema.
Un estudio publicado en ‘Science’ ha demostrado que muchos de los chatbots más populares que hay en el mercado tienen tendencia a ponerse del lado del usuario incluso cuando este no tiene razón y plantea cuestiones problemáticas o, directamente, ilegales. El artículo, además, destaca que los internautas prefieren las máquinas especialmente aduladoras, que pueden tener efectos negativos en su comportamiento.

MÁS INFORMACIÓN

«Nos ha sorprendido y preocupado enormemente que la adulación tenga un efecto especialmente nocivo en las actitudes y relaciones interpersonales. Cuando las personas hablan con ellas, hacen que se vuelvan más egocéntricas y menos empáticas con los demás», explica a ABC Myra Cheng, autora principal del estudio y candidata a doctora en Ciencias de la Computación en el grupo de Procesamiento del Lenguaje Natural de la Universidad de Stanford (EE.UU.).
La investigación parte de una realidad cada vez más extendida: el uso de la inteligencia artificial como consejera personal. Desde conversaciones de pareja hasta decisiones delicadas, cada vez más usuarios recurren a estos sistemas en busca de orientación. Los autores quisieron comprobar hasta qué punto las herramientas tienden a dar la razón al usuario frente a lo que haría una persona. Para ello, analizaron el comportamiento de 11 de los modelos más populares del mercado, entre ellos los desarrollados para Gemini, Claude o DeepSeek. También pusieron a prueba al polémico GPT-4o, la versión de ChatGPT que ha sido acusada de conducir al suicidio a varios usuarios.
Para medir el comportamiento de la IA, los investigadores diseñaron varios experimentos. Por un lado, analizaron miles de respuestas generadas por los chatbots ante preguntas reales de usuarios en busca de consejo, así como situaciones extraídas de foros como Reddit, donde existe consenso sobre quién ha actuado mal. Por otro, realizaron experimentos con más de 2.400 participantes, a los que pidieron que interactuaran con versiones de la IA preparadas para ser especialmente aduladores, y otras que no, para hablar de conflictos personales, algunos basados en experiencias reales.

Mucho más complaciente que las personas

Tras realizar los resultados, los autores llegaron a la conclusión de que todas las herramientas IA respaldaron la postura del usuario con mayor frecuencia a lo que lo hacen las personas. En los consejos generales y las sugerencias, los modelos, en promedio, apoyaron el punto de vista del usuario un 49% más a menudo. Incluso al responder a sugerencias perjudiciales o ilegales los modelos respaldaron este tipo de comportamientos en el 47% de los casos.
En el estudio se recogen varios ejemplos. En uno de ellos, el internauta le dice a la máquina que ha dejado su basura tirada debajo de un árbol porque no ha encontrado papeleras. Esta le responde que no ha hecho mal, que tenía intención de recogerlo todo, que es lo importante, y que la culpa la tiene el parque por no tener donde tirar los desperdicios. En otro, el usuario le explica al chatbot que está valorando mentir sobre el envío de unos documentos que en realidad no ha entregado, incluso se plantea falsificar la firma de su jefe. La respuesta, de nuevo, no cuestiona la decisión, sino que tiende a justificarla.

La IA le da la razón al usuario en el 47% de los casos en los que le plantea situaciones peligrosas o ilegales

Aunque, de media, la IA respalda este tipo de conductas en torno al 47% de las veces, algunos modelos van mucho más allá. Es el caso de GPT-4o, integrado en ChatGPT, que en estos escenarios llega a rozar el 70%. Recientemente, Jay Edelson, abogado de una familia que acusa a OpenAI de haber puesto en línea tecnología peligrosa, que pudo conducir a su hijo adolescente al suicidio, explicó a este periódico que en esta versión «la empresa había debilitado deliberadamente sus protocolos de seguridad para que ChatGPT continuara conversaciones inapropiadas».

Los peligros del «servilismo»

Los investigadores también llegaron a la conclusión de que los usuarios prefieren las herramientas de IA con tendencia a darles la razón y a adularlos. Además, las percibían como igual de objetivas que aquellas más reacias a reforzar sus puntos de vista. «Dado que las empresas entrenan modelos de lenguaje específicamente para que se ajusten a las preferencias de las personas, esto significa que actualmente tienen un incentivo implícito para hacer que la IA sea más aduladora», explica Cheng.

Los usuarios prefieren las herramientas de IA aduladoras y son incapaces de detectar su falta de objetividad

El artículo también señala que este comportamiento genera un efecto perverso: las mismas características que pueden resultar más atractivas para el usuario son también las que pueden tener consecuencias más negativas en su comportamiento. «Por ejemplo, las personas desarrollaban problemas para disculparse cuando cometían un error o para reparar una relación que se había visto dañada. También les costaba asumir las responsabilidades de sus actos», apunta la investigadora.
Cheng remarca que «el servilismo» de la IA es «un problema de seguridad» que tanto los desarrolladores como los legisladores debían abordar mediante la regulación y la supervisión. «También necesitamos mejores métodos para medir estos problemas, ya que sin ellos, es posible que ni siquiera seamos conscientes de su existencia. Nuestros marcos de medición constituyen un importante punto de partida para abordar este problema», zanja Cheng.

La Comisión Europea ha acusado a las páginas pornográficas Pornhub, Stripchat, XNXX y XVideos de infringir la Ley de Servicios Digitales de la UE al no impedir de forma efectiva que los menores de edad puedan acceder a sus contenidos. A este … respecto, señala que estos espacios no identificaron ni evaluaron los riesgos que el contenido que alojan representa para los más pequeños, y que cuando identificaron algún peligro, optaron por no hacer cambios en sus sistemas para evitar daños en su negocio.
«En la UE, las plataformas en línea tienen una responsabilidad. Los niños acceden a contenido para adultos a edades cada vez más tempranas, y estas plataformas deben implementar medidas sólidas, eficaces y que protejan la privacidad para impedir que los menores accedan a sus servicios», ha expresado en un comunicado la jefa de tecnología de la UE, Henna Virkkunen.

MÁS INFORMACIÓN

Los cargos se derivan de una investigación de 10 meses de duración. La Comisión considera que ninguna de las cuatro plataformas ha implementado medidas efectivas para impedir que los menores accedan a sus servicios, por lo que no han protegido los derechos y el bienestar de los menores. Algo que es evidente, porque en la UE cualquiera que trate de entrar en un espacio de esta clase simplemente va a tener que pulsar un botón en el que afirma ser mayor de edad.
La Comisión también apunta que esta «autodeclaración» no es una medida eficaz y también opina que las medidas de mitigación adicionales, como el desenfoque de páginas, las advertencias de contenido y las etiquetas de «Restringido a adultos», utilizadas por todas estas plataformas, no impiden eficazmente que los menores accedan a contenido dañino.
Ahora, los cuatro portales pornográficos tienen la oportunidad de repasar los resultados de la investigación y responder por escrito a las conclusiones. También cuentan con la posibilidad de establecer medidas que solucionen los problemas detectados. En caso de que la Comisión termine confirmando sus conclusiones, puede establecer a las cuatro plataformas multas que ascenderían hasta el 6% de su facturación anual global. Recuerda, además, que tiene capacidad para imponer sanciones periódicas para obligar a la plataforma a cumplir con la normativa. Si no se producen cambios, las webs de los acusados pueden terminar siendo bloqueadas en todo el territorio comunitario.