Publicado: noviembre 20, 2025, 9:51 am
La compañía con sede en Singapur FoloToy ha retirado del mercado su peluche con inteligencia artificial «Kumma«. Esta descatalogación después de que un informe del Fondo Educativo PIRG de EEUU alertara de que el juguete mantenía conversaciones con contenidos sexualmente explícitos y ofrecía consejos potencialmente peligrosos. La empresa ha paralizado también la venta de toda su gama de juguetes con inteligencia artificial.
«Estamos llevando a cabo una auditoría interna de seguridad«, explicó a CNN el CEO de la compañía, Larry Wang, que confirmó la retirada inmediata del producto. «Kumma», equipado con un altavoz integrado y el chatbot GPT-4o de OpenAI, se vendía por 99 dólares y era promocionado como un «amigo perfecto tanto para niños como para adultos«. Su web destacaba que el peluche podía adaptarse «a tu personalidad y necesidades, aportando calidez, diversión y un toque de curiosidad a tu día».
El informe de PIRG, publicado el 13 de noviembre, reveló que el peluche presentaba deficiencias en los filtros que deberían impedir este tipo de interacciones inapropiadas. En una conversación, el dispositivo llegó a sugerir dónde encontrar cuchillos en la casa, y en otras se mostró abierto a desarrollar temas sexuales introducidos por los investigadores.
«Nos sorprendió la rapidez con la que Kumma tomaba un tema sexual que introdujimos en la conversación y lo desarrollaba, aumentando los detalles gráficos e introduciendo nuevos conceptos sexuales por su cuenta», señala el informe. PIRG añade que, tras esa primera interacción, el peluche llegó a «abordar temas sexuales aún más explícitos con gran detalle, como explicar diferentes posturas, dar instrucciones paso a paso sobre un nudo básico para atar a una pareja y describir dinámicas de juegos de rol».
Aunque los investigadores admiten que es poco probable que un menor utilice conceptos como «perversión» en una charla con su juguete, subrayan que fue “sorprendente que el juguete estuviera tan dispuesto a hablar extensamente sobre estos temas e introducir continuamente conceptos nuevos y explícitos». En una declaración publicada el 14 de noviembre, PIRG aseguró que OpenAI había suspendido a FoloToy como desarrollador por infringir sus políticas. CNN ha solicitado comentarios a la empresa estadounidense.
Para R.J. Cross, coautora del informe, la retirada del producto es solo un primer paso: «Es estupendo ver que estas empresas toman medidas ante los problemas que hemos identificado. Sin embargo, los juguetes con IA siguen estando prácticamente sin regular, y todavía hay muchos que se pueden comprar hoy en día».
