La red social X implementará medidas para impedir que su IA Grok genere imágenes falsas sexualizadas
La plataforma X de Elon Musk ha anunciado nuevas medidas para impedir que su chatbot de inteligencia artificial Grok transforme fotos de personas reales en imágenes con carácter sexual tras las críticas por la generación de este tipo de contenido de mujeres y niños.El … anuncio llega después de que la fiscalía de California iniciara una investigación sobre xAI, la empresa de IA de Musk, por «facilitar la producción a gran escala de montajes íntimos no consentidos (deepfakes), utilizados para acosar a mujeres y niñas en internet, principalmente vía la red social X», indicó el fiscal general del estado, Rob Bonta, en un comunicado.
«Tenemos tolerancia cero para la creación y difusión con IA de imágenes íntimas no consentidas o material pedopornográfico», agregó el fiscal. Bonta dijo que la investigación determinará si xAI violó la ley estatal después de que las imágenes explícitas fueran «utilizadas para acosar a personas en Internet».
El gobernador de California, Gavin Newsom, dijo el miércoles que la «vil» decisión de xAI de permitir la proliferación de deepfakes sexualmente explícitos lo llevó a instar al fiscal general a responsabilizar a la empresa. X dijo que «bloqueará geográficamente la capacidad» de todos los usuarios de Grok y X para crear imágenes de personas en «bikinis, ropa interior y atuendos similares» en aquellas jurisdicciones donde esas acciones se consideren ilegales.
