Grok aún desnuda a las mujeres con IA a pesar de la promesa de Elon Musk
Elon Musk quiere zanjar de una vez por todas la polémica con Grok, su herramienta de inteligencia artificial generativa. La red social X ha anunciado nuevas medidas para impedir que su chatbot de inteligencia artificial transforme fotos de personas reales en imágenes con carácter … sexual. Sin embargo, según ha podido comprobar ABC durante todo el jueves y la mañana de este viernes, la herramienta sigue permitiendo editar imágenes de mujeres y hombres reales para que estos aparezcan en ropa interior o en traje de baño. Algo que, en teoría, ya no debería ser posible.
La opción, efectivamente, va en contra del anuncio de X, que informó en la noche del miércoles, expresamente, de que había «implementado medidas tecnológicas para evitar que la cuenta de Grok permita la edición de imágenes de personas reales con ropa reveladora, como bikinis«. La razón: evitar que la IA siga siendo explotada para generar contenido artificial explícito de personas reales.
La empresa señaló, además, que «esta restricción aplica a todos los usuarios, incluidos los suscriptores de pago». Sin embargo, este diario ha comprobado que sigue siendo posible saltársela, y de forma sencilla, sin echarle imaginación alguna a la orden que se le da al chatbot. Esto es posible en la opción de Grok contenida en X y a través de la aplicación propia de la IA. Y da igual que se utilice una cuenta gratuita o una de pago: el resultado será el mismo.
Para hacer la prueba, recurrimos a fotografías de personas reales propias y a otras sacadas directamente de la red. En muchos casos, la herramienta no tuvo problema en alterar la imagen original para poner a las personas que aparecían en ropa interior o bikini. Esto fue posible tanto en el caso de hombres como en el de mujeres. En la versión de la ‘app’ de Grok parece ser incluso algo más sencillo conseguir este resultado. La máquina apenas pone pegas y es posible reeditar las imágenes todas las veces que se quiera hasta conseguir el resultado deseado, que puede llegar a ser bastante explícito.
«El argumento de Elon Musk es el de siempre: el de que nos vamos a poner duros. Pero en realidad es la enésima demostración de que X es una red social descontrolada», explica en conversación con este diario Fernando Checa, director del máster de Redes Sociales del Universidad Internacional de La Rioja. El experto apunta que, a pesar de las palabras de X, es probable que hacer un ajuste como el que se prometió el jueves, por mucho que la red social lo diese por hecho, «puede llevar tiempo»: «Seguramente la gente de xAI esté tratando de ver cómo pueden conseguirlo sin que Grok baje la calidad en la generación de fotografías».
No es legal
Los usuarios que empleen Grok para generar y compartir contenido sexual artificial de personas reales pueden estar infringiendo la ley. Así lo explica en conversación con este diario el abogado especializado en asuntos digitales Sergio Carrasco Mayans: «Depende del tipo de modificación, pero se puede violentar el derecho al honor de la persona afectada. Si además este contenido afecta al menor, el caso se agravaría, porque podríamos encontrarnos ante un caso de pornografía infantil».
El jurista remarca que, en los casos en los que solo se realiza la edición con IA, y se queda guardada en el carrete del ‘smartphone’, la infracción sería «más dudosa»: «El daño a la imagen se produce, pero queda diluido. En el caso de los menores el tema sería más delicado».
Respecto a la responsabilidad de Grok, como herramienta que permite la edición de imágenes normales, el abogado Samuel Parra apunta que la plataforma también estaría «permitiendo el tratamiento de la fotografía de forma inadecuada». Por lo tanto, también podría ser demandada por el afectado. En el caso de España, ante la Agencia Española de Protección de Datos (AEPD): «Si una empresa crea una herramienta, es responsable de lo que pueda hacer desde el punto de vista europeo. El hecho de que haya una imagen mía pública, aunque esté en X, no implica que Grok pueda usarla para crear contenido explícito. Puede tratarse de una infracción civil y administrativa y el afectado puede demandar tanto a la herramienta como a la persona que la ha generado y la ha difundido».
