La Comisión Europea ha ordenado a la red social X de Elon Musk que conserve todos los documentos y datos internos relacionados con su chatbot de inteligencia artificial integrado, Grok, hasta finales de 2026, dijo el jueves un portavoz de la comisión en … declaraciones recogidas por ‘Reuters’.
«Esto se le está diciendo a la plataforma: ‘Conserven sus documentos internos, no se deshagan de ellos, porque tenemos dudas sobre su cumplimiento… y necesitamos poder tener acceso a ellos si lo solicitamos explícitamente’», dijo el portavoz de la Comisión Thomas Regnier.

El anuncio llega una semana después de que Grok, a través de su cuenta oficial en la red social, reconociese que algunos usuarios se habían aprovechado de un problema técnico de la herramienta para que la creación de este tipo de contenido fuera posible. «Hemos identificado fallas en las salvaguardas y las estamos corrigiendo con urgencia», se señaló en la publicación. Asimismo, la IA remarcaba que la creación de contenido erótico de esta clase »es ilegal y está prohibido«.
Las denuncias de abusos comenzaron a aparecer en X después de que, a finales de diciembre, se lanzara en Grok un botón de «editar imagen». Este permite a los usuarios modificar cualquier imagen en la plataforma -y, según las quejas-, algunos usuarios aprovecharon la novedad para eliminar parcial o completamente la ropa de mujeres o niños en las fotografías.

OpenAI sigue sumando funcionalidades a ChatGPT. La tecnológica centrada en inteligencia artificial generativa ha anunciado la llegada de una nueva versión de su chatbot centrada en la salud y el bienestar llamada ChatGPT Salud. Esta está diseñada, según señala la propia tecnológica en comunicado, … para que el usuario pueda compartir de forma segura con la máquina su información médica, como los resultados de sus análisis o su historial clínico, para que la máquina lo ayude a interpretar los resultados recientes de sus pruebas, prepare sus citas médicas u ofrezca recomendaciones.
Desde la llegada de ChatGPT a la red a finales de 2022, los usuarios han recurrido al robot para buscar consejo médico. De acuerdo con la propia empresa, actualmente, más de 230 millones de personas a nivel global le hacen consultas semanales sobre bienestar y cuidado personal.

La novedad, que en primer momento solo estará disponible para los usuarios afincados en Estados Unidos, es compatible con aplicaciones de bienestar del ‘smartphone’, como es el caso de Apple Health, Function o MyFitnessPal. Gracias a ellas, el robot puede contar con toda la información básica de salud del usuario para poder aconsejarlo mejor. Ahora bien, que nadie se confunda. OpenAI deja claro que la herramienta no aspira a sustituir la atención médica tradicional.
«No sirve para diagnóstico ni tratamiento. En cambio, ayuda a resolver preguntas cotidianas y a identificar patrones a lo largo del tiempo, no solo en momentos de enfermedad, para que tengas más claridad y confianza en tus conversaciones médicas importantes», dejan claro desde OpenAI. La empresa también remarca que los datos médicos compartidos por los usuarios no serán empleados para el entrenamiento de ChatGPT. A este respecto, la empresa señala que la novedad «se creó como un espacio seguro con protecciones adicionales para la información médica sensible y controles fáciles de usar».

La primera vez que Virginia se descargó una aplicación de redes sociales en su ‘smartphone’ tenía 12 años. Desde entonces, sitios como TikTok, Instagram, Snapchat o Roblox han jugado un papel clave en su día a día. No solo son los espacios donde charla … con amigos o mata el rato consumiendo los últimos virales; también son los lugares a los que recurre cuando quiere consultar información o despejar cualquier duda que le surja por el camino. Puede pasar navegando en ellas cinco horas diarias; por eso, cuando se enteró de que Australia, el país en el que lleva viviendo casi toda su vida, iba a prohibir el acceso a los menores de 16 años, se preocupó un poco. Pero fue para nada; porque desde que entró en funcionamiento el bloqueo, el pasado 10 de diciembre, no ha perdido el acceso a ninguna.
«No lo han hecho muy bien. Por ejemplo, Snapchat no me ha pedido que hiciese nada para verificar mi edad. TikTok únicamente me mostró una notificación en la que ponía que iban a mirar mi fecha de cumpleaños en la aplicación. Lo que pasa es que mucha gente no tiene puesto su cumpleaños real. Solo una vez me han hecho sacarme una foto para comprobar la edad y me ha salido que tengo 18 años», apunta en conversación con ABC la joven, que tiene todavía 15 años y lleva casi toda su vida residiendo en la ciudad de Melbourne.

El caso de Virginia no es anecdótico. Todos los amigos de su grupo siguen teniendo acceso a sus cuentas; y si eso es posible es porque la norma australiana tiene muchas limitaciones. Y los menores mucha inventiva. Efectivamente, desde inicios de diciembre el Gobierno del país oceánico obliga a ‘apps’ como X, Instagram, TikTok, Reddit, Youtube, Threads o el sitio de vídeos en ‘streaming’ Kick a desactivar todas las cuentas de usuarios menores de 16 años; además de poner barreras efectivas que les impidan utilizar de nuevo el servicio hasta que alcancen la edad mínima permitida.
Para cumplir con la obligación, las plataformas deben incorporar mecanismos que les ayuden a verificar la edad de los usuarios. Sin embargo, cada una puede utilizar los que considere oportunos siempre y cuando exista alternativa a la petición de un documento de identidad. Algunas están optando por pedir a los menores que compartan una fotografía de su rostros para que el sistema, mediante el uso de reconocimiento facial, pueda determinar la edad real. Otras recurren a la IA para determinar si la actividad de la cuenta encaja con la que le daría un menor de 16 años. Sea como sea, el desafío es mayúsculo. Y el gobierno australiano lo sabe.

La fuente de la noticia es https://www.abc.es/tecnologia/fallos-ia-elon-musk-permiten-sexualizar-imagenes-20260102183504-nt.html El fallo de Grok empezó en los últimos días del año, y los responsables aseguran que están …