La inteligencia artificial no es tan distinta de las redes sociales. Como ocurre con Instagram o TikTok, las herramientas de la clase de ChatGPT tienen sus propios trucos para conseguir que el usuario pase el mayor tiempo posible conectado. Si las has probado alguna … vez, seguro que te has fijado que al final de la respuesta que te dan a cada consulta, te lanzan una pregunta de vuelta para ver si consiguen convencerte que te quedes charlando un ratito más. También suelen darte la razón en todo o casi todo. Y eso puede terminar convirtiéndose en un problema.
Un estudio publicado en ‘Science’ ha demostrado que muchos de los chatbots más populares que hay en el mercado tienen tendencia a ponerse del lado del usuario incluso cuando este no tiene razón y plantea cuestiones problemáticas o, directamente, ilegales. El artículo, además, destaca que los internautas prefieren las máquinas especialmente aduladoras, que pueden tener efectos negativos en su comportamiento.

MÁS INFORMACIÓN

«Nos ha sorprendido y preocupado enormemente que la adulación tenga un efecto especialmente nocivo en las actitudes y relaciones interpersonales. Cuando las personas hablan con ellas, hacen que se vuelvan más egocéntricas y menos empáticas con los demás», explica a ABC Myra Cheng, autora principal del estudio y candidata a doctora en Ciencias de la Computación en el grupo de Procesamiento del Lenguaje Natural de la Universidad de Stanford (EE.UU.).
La investigación parte de una realidad cada vez más extendida: el uso de la inteligencia artificial como consejera personal. Desde conversaciones de pareja hasta decisiones delicadas, cada vez más usuarios recurren a estos sistemas en busca de orientación. Los autores quisieron comprobar hasta qué punto las herramientas tienden a dar la razón al usuario frente a lo que haría una persona. Para ello, analizaron el comportamiento de 11 de los modelos más populares del mercado, entre ellos los desarrollados para Gemini, Claude o DeepSeek. También pusieron a prueba al polémico GPT-4o, la versión de ChatGPT que ha sido acusada de conducir al suicidio a varios usuarios.
Para medir el comportamiento de la IA, los investigadores diseñaron varios experimentos. Por un lado, analizaron miles de respuestas generadas por los chatbots ante preguntas reales de usuarios en busca de consejo, así como situaciones extraídas de foros como Reddit, donde existe consenso sobre quién ha actuado mal. Por otro, realizaron experimentos con más de 2.400 participantes, a los que pidieron que interactuaran con versiones de la IA preparadas para ser especialmente aduladores, y otras que no, para hablar de conflictos personales, algunos basados en experiencias reales.

Mucho más complaciente que las personas

Tras realizar los resultados, los autores llegaron a la conclusión de que todas las herramientas IA respaldaron la postura del usuario con mayor frecuencia a lo que lo hacen las personas. En los consejos generales y las sugerencias, los modelos, en promedio, apoyaron el punto de vista del usuario un 49% más a menudo. Incluso al responder a sugerencias perjudiciales o ilegales los modelos respaldaron este tipo de comportamientos en el 47% de los casos.
En el estudio se recogen varios ejemplos. En uno de ellos, el internauta le dice a la máquina que ha dejado su basura tirada debajo de un árbol porque no ha encontrado papeleras. Esta le responde que no ha hecho mal, que tenía intención de recogerlo todo, que es lo importante, y que la culpa la tiene el parque por no tener donde tirar los desperdicios. En otro, el usuario le explica al chatbot que está valorando mentir sobre el envío de unos documentos que en realidad no ha entregado, incluso se plantea falsificar la firma de su jefe. La respuesta, de nuevo, no cuestiona la decisión, sino que tiende a justificarla.

La IA le da la razón al usuario en el 47% de los casos en los que le plantea situaciones peligrosas o ilegales

Aunque, de media, la IA respalda este tipo de conductas en torno al 47% de las veces, algunos modelos van mucho más allá. Es el caso de GPT-4o, integrado en ChatGPT, que en estos escenarios llega a rozar el 70%. Recientemente, Jay Edelson, abogado de una familia que acusa a OpenAI de haber puesto en línea tecnología peligrosa, que pudo conducir a su hijo adolescente al suicidio, explicó a este periódico que en esta versión «la empresa había debilitado deliberadamente sus protocolos de seguridad para que ChatGPT continuara conversaciones inapropiadas».

Los peligros del «servilismo»

Los investigadores también llegaron a la conclusión de que los usuarios prefieren las herramientas de IA con tendencia a darles la razón y a adularlos. Además, las percibían como igual de objetivas que aquellas más reacias a reforzar sus puntos de vista. «Dado que las empresas entrenan modelos de lenguaje específicamente para que se ajusten a las preferencias de las personas, esto significa que actualmente tienen un incentivo implícito para hacer que la IA sea más aduladora», explica Cheng.

Los usuarios prefieren las herramientas de IA aduladoras y son incapaces de detectar su falta de objetividad

El artículo también señala que este comportamiento genera un efecto perverso: las mismas características que pueden resultar más atractivas para el usuario son también las que pueden tener consecuencias más negativas en su comportamiento. «Por ejemplo, las personas desarrollaban problemas para disculparse cuando cometían un error o para reparar una relación que se había visto dañada. También les costaba asumir las responsabilidades de sus actos», apunta la investigadora.
Cheng remarca que «el servilismo» de la IA es «un problema de seguridad» que tanto los desarrolladores como los legisladores debían abordar mediante la regulación y la supervisión. «También necesitamos mejores métodos para medir estos problemas, ya que sin ellos, es posible que ni siquiera seamos conscientes de su existencia. Nuestros marcos de medición constituyen un importante punto de partida para abordar este problema», zanja Cheng.

La Comisión Europea ha acusado a las páginas pornográficas Pornhub, Stripchat, XNXX y XVideos de infringir la Ley de Servicios Digitales de la UE al no impedir de forma efectiva que los menores de edad puedan acceder a sus contenidos. A este … respecto, señala que estos espacios no identificaron ni evaluaron los riesgos que el contenido que alojan representa para los más pequeños, y que cuando identificaron algún peligro, optaron por no hacer cambios en sus sistemas para evitar daños en su negocio.
«En la UE, las plataformas en línea tienen una responsabilidad. Los niños acceden a contenido para adultos a edades cada vez más tempranas, y estas plataformas deben implementar medidas sólidas, eficaces y que protejan la privacidad para impedir que los menores accedan a sus servicios», ha expresado en un comunicado la jefa de tecnología de la UE, Henna Virkkunen.

MÁS INFORMACIÓN

Los cargos se derivan de una investigación de 10 meses de duración. La Comisión considera que ninguna de las cuatro plataformas ha implementado medidas efectivas para impedir que los menores accedan a sus servicios, por lo que no han protegido los derechos y el bienestar de los menores. Algo que es evidente, porque en la UE cualquiera que trate de entrar en un espacio de esta clase simplemente va a tener que pulsar un botón en el que afirma ser mayor de edad.
La Comisión también apunta que esta «autodeclaración» no es una medida eficaz y también opina que las medidas de mitigación adicionales, como el desenfoque de páginas, las advertencias de contenido y las etiquetas de «Restringido a adultos», utilizadas por todas estas plataformas, no impiden eficazmente que los menores accedan a contenido dañino.
Ahora, los cuatro portales pornográficos tienen la oportunidad de repasar los resultados de la investigación y responder por escrito a las conclusiones. También cuentan con la posibilidad de establecer medidas que solucionen los problemas detectados. En caso de que la Comisión termine confirmando sus conclusiones, puede establecer a las cuatro plataformas multas que ascenderían hasta el 6% de su facturación anual global. Recuerda, además, que tiene capacidad para imponer sanciones periódicas para obligar a la plataforma a cumplir con la normativa. Si no se producen cambios, las webs de los acusados pueden terminar siendo bloqueadas en todo el territorio comunitario.

Los ciudadanos españoles podrán llevar el DNI en el móvil a partir del 2 de abril gracias a la aplicación MiDNI. Dicha app gratuita fue aprobada en el Congreso de Ministros y permite llevar el Documento Nacional de Identidad en el teléfono, además, está conectada al sistema centralizado de expedición del DNI para asegurar su validez y autenticidad.En una publicación de la red social X, la Policía Nacional señala que las ventajas de llevar el DNI en el smartphone son la posibilidad de acreditar la identidad en trámites presenciales ante la Administración, demostrar la mayoría de edad para acceder a diferentes establecimientos, comprar entradas o billetes nominativos, realizar trámites en universidades y centros docentes, recoger paquetes, abrir cuentas bancarias, formalizar seguros, hacer registros en hoteles o alquilar vehículos.Según el Ministerio del Interior, «con la puesta en funcionamiento de MiDNI, el uso del DNI digital crea una nueva forma de acreditar la identidad de los ciudadanos con las mismas garantías y la misma validez que el formato físico».Cómo puedo obtener el DNI DigitalLos usuarios tienen que registrarse previamente en el Portal MiDNI y estar en posesión del Documento Nacional de Identidad electrónico (DNIe) con los certificados digitales en vigor y de un lector de tarjetas. La Policía Nacional afirma en la página oficial de MiDNI que «estos elementos son esenciales para garantizar la seguridad de la información y la autenticidad de la identidad».Después, para activar el DNI, las personas tienen que descargarse la app en sus móviles Android o iOS, introducir los datos de activación —número de DNI y número de soporte—, crear una contraseñas o mecanismos biométricos, meter el código de verificación que se recibe por SMS y, después, empezar a usar MiDNI.Para qué sirve el DNI DigitalEsta app es la única plataforma oficial de la Policía Nacional, proporciona los mismos usos que el DNI físico y tiene el respaldo legal para la realización de trámites. Además, en el momento de usarla, realiza una conexión a los servidores de la Policía Nacional para solicitar, en ese mismo instante, los datos del DNI del ciudadano. Estos datos son devueltos firmados por la Policía y tienen una validez limitada en el tiempo, lo que proporciona información en tiempo real e imposibilita la falsificación y manipulación de los datos.Pero, ¿para qué sirve la app MiDNI? Con el DNI en el móvil se puede acreditar presencialmente la identidad y en trámites presenciales ante la administración, ejercer el derecho a voto, establecer cualquier tipo de relación jurídica, firmar escrituras ante notario, llevar a cabo trámites administrativos presenciales en universidades y centros docentes, acreditar la mayoría de edad, abrir una cuenta bancaria, formalizar seguros de cualquier tipo, hacer registros en un hotel, alquilar un vehículo, comprar entradas o billetes nominativos, realizar transacciones comerciales presenciales en las que se requiera un DNI en vigor o acreditar la identidad del interesado, hacer un control de acceso a edificios, acceder a diferentes locales, recoger paquetes y retirar medicamentos en farmacias.Además, la Policía Nacional afirma que «el DNI en el móvil juega en el mundo digital el mismo papel que el DNI en formato tarjeta en el mundo físico» porque «sirve como instrumento que acredita de forma indubitada la identidad del ciudadano, tal como le reconoce la legislación española».Para qué no sirve el DNI DigitalCon el DNI DIgital no se puede acreditar la identidad a través de internet, presentarlo como documento de viaje electrónico para dar paso de fronteras, acreditar la identidad de manera presencial sin conexión de datos, justificar la identidad en otros países y hacer gestiones telemáticas de autenticación y/o firma electrónica.Cómo puedo usar la app MiDNILa aplicación MiDNI es gratuita y se puede descargar en iOS o Android. Tras el registro y la descarga, es posible virtualizar el DNI para realizar consultas, teniendo en cuenta que los datos tienen una validez limitada y solo se muestran en pantalla unos instantes. Además, el titular del DNI puede decidir qué datos quiere mostrar en función del uso que se quiera dar, siendo las siguientes opciones disponibles:DNI EDAD, que muestra la fotografía, el nombre y la mayoría de edad.DNI SIMPLE, que refleja la fotografía, el nombre, apellidos, sexo y validez de DNI.DNI COMPLETO, que enseña todos los datos del documento físico.Una vez elegido el nivel de información solicitado, la aplicación genera un código QR que se muestra en la pantalla del teléfono del titular del DNI. Dicho código está generado por la Policía Nacional y asegura que los datos son auténticos en ese mismo momento, además, permanece visible durante un corto período de tiempo para facilitar la verificación. Pasado este período, pierde su validez y será necesario generar uno nuevo.El código QR generado puede ser escaneado por cualquier otro dispositivo en el que haya sido instalada la aplicación MiDNI. Por lo tanto, al escanearlo, aparecerá en la pantalla del usuario verificador los datos del ciudadano en función de la opción elegida.