Publicado: octubre 18, 2025, 3:23 am
Grok es el polémico chatbot de X, la red social del Elon Musk y antes Twitter, con el que xAI compite directamente contra ChatGPT de OpenAI o Gemini de Google. Su funcionamiento se basa en modelos de lenguaje entrenados con grandes cantidades de datos, capaces de responder preguntas, redactar textos o resolver tareas complejas. Debido a la capacidad que tiene de responder preguntas y ofrecer información, se ha convertido en una herramienta con mucha popularidad en X, por lo que los ciberdelincuentes se han puesto manos a la obra.
Cuidado al consultar enlaces proporcionados por Grok, el chatbot de X: así es el «Grokking»
Desde ESET, compañía de ciberseguridad, han alertado de una campaña de anuncios maliciosos que han conseguido manipular a Grok para difundir enlaces de phishing y malware a gran escala. Con este tipo de ataque, los delincuentes buscan dirigir a las víctimas a páginas fraudulentas para robar los datos personales o bancarios, o a descargas de malware para infectar a los dispositivos, tomar su control, entre otros fines.
La campaña, bautizada como «AI-aided malvertising» o «Grokking», se basa en una técnica conocida como «Promp injection», que consiste en introducir instrucciones ocultas en los contenidos que analiza la IA para que realice acciones que normalmente tendría prohibidas. En concreto, los atacantes utilizan videos con apariencia de anuncios o contenido que llama la atención (clickbait) publicados en X.
Lo que ocurre es que en el pequeño texto gris que aparece debajo del video, donde suele aparecer la fuente o el origen del mismo, colocan un enlace fraudulento que redirige al usuario a los sitios falsos. Después, le piden a Grok que identifique el origen del video y, al analizar la publicación, el chatbot detecta el enlace repitiéndolo de forma automática en su respuesta. Esto hace que comparta enlaces maliciosos con millones de usuarios sin darse cuenta.
Este ataque refleja que las herramientas de IA generativa se han convertido en aliados para engañar a las personas mediante técnicas de ingeniería social y demuestra que incluso las inteligencias artificiales más avanzadas pueden ser manipuladas. Además, desde la compañía de ciberseguridad remarcan que no solo se trata de un problema de X, sino que cualquier plataforma que utilice chatbots o modelos de lenguaje podría ser vulnerable a este tipo de ataques.
