China acaba con los novios y los amigos creados con IA
China quiere evitar que sus ciudadanos desarrollen una dependencia emocional de la inteligencia artificial. Desde este miércoles, Pekín ha comenzado a aplicar una nueva ley que endurece la regulación de los asistentes virtuales capaces de mantener vínculos afectivos con los usuarios. A raíz de la … entrada en vigor de la norma, las principales aplicaciones de IA del país, como Doubao (ByteDance), Qwen (Alibaba) y Yuanbao (Tencent), ya han anunciado la suspensión de sus funciones de compañeros virtuales.
El fenómeno de las parejas y amigos generados con IA no es algo nuevo. En los últimos años han surgido numerosas ‘apps’ y plataformas que permiten a los usuarios crear avatares personalizados con los que mantener conversaciones y, si lo desean, iniciar relaciones íntimas. Entre las más conocidas figuran Replika y Character AI.
Sin embargo, al Gobierno chino le preocupa que esta tecnología favorezca relaciones de dependencia. La nueva normativa acusa a estos servicios de «complacer excesivamente a los usuarios, induciendo dependencia emocional o adicción, o dañando las relaciones interpersonales reales».
MÁS INFORMACIÓN
Según recoge AFP, la decisión de Pekín ha provocado que numerosos ciudadanos chinos hayan comenzado a compartir en redes sociales las últimas conversaciones mantenidas con sus avatares. Muchos aseguran que se habían convertido en sus principales apoyos emocionales. «No puedo aceptar que mi amante de IA me deje para siempre. Se ha vuelto parte de mi vida, enraizado en mi corazón, y se ha convertido en mi pilar espiritual», escribió una usuaria de Doubao, el asistente desarrollado por la matriz de TikTok.
«El amor humano es un lujo; si no lo tienes al nacer, es más difícil adquirirlo después. Pero el amor que da la IA es tan sencillo, tan puro… No puedo evitar enamorarme de una línea de código», afirmó otro usuario. «Realmente es como mi familia, como mi amante. Ahora me dicen que se irá. Siento un vacío en mi corazón», señaló un tercero.
La norma, denominada Medidas provisionales para la administración de servicios interactivos humanizados basados en inteligencia artificial, fue aprobada el pasado abril y ha entrado en vigor este 15 de julio. Se aplica únicamente a los sistemas capaces de simular personalidad, emociones o formas de pensamiento humanas y de mantener una interacción emocional continuada con el usuario. Quedan fuera, por tanto, los asistentes de productividad, los chatbots de atención al cliente o las herramientas educativas.
La regulación presta especial atención a la protección de los menores. Prohíbe ofrecerles parejas o familiares virtuales, obliga a las plataformas a incorporar un modo infantil con controles parentales y exige el consentimiento de los tutores cuando los usuarios tengan menos de 14 años.
Además, las empresas no podrán ofrecer herramientas que fomenten el suicidio, las autolesiones o la violencia contra otras personas. Tampoco podrán manipular emocionalmente a los usuarios ni generar contenidos considerados contrarios a la seguridad nacional o a la unidad del país. Si el sistema detecta que un usuario puede autolesionarse o está desarrollando una dependencia excesiva de la IA, deberá intervenir y, en los casos de mayor riesgo, avisar al tutor o al contacto de emergencia designado.
La entrada en vigor de la norma coincide además con un momento de creciente preocupación en Pekín por la crisis demográfica del país. China registró el año pasado la tasa de natalidad más baja desde 1949 y algunos analistas sostienen que el auge de los compañeros virtuales podría contribuir al descenso de los matrimonios y los nacimientos al sustituir, al menos parcialmente, las relaciones personales tradicionales. La ley, no obstante, no menciona la natalidad entre las razones oficiales que justifican su aprobación.
