Ciberdelincuentes han logrado engañar al chatbot de inteligencia artificial (IA) de la red social X para que promueva enlaces de phishing mediante una técnica bautizada como “Grokking”.
La ingeniería social es uno de los trucos más antiguos de los hackers: manipular a una víctima para que entregue su información o instale malware. Las víctimas suelen ser abordadas a través de correos de phishing, mensajes de texto o llamadas telefónicas.
Con la masificación de la inteligencia artificial generativa (GenAI), estas campañas se han vuelto más sofisticadas. Investigadores en ciberseguridad alertan que los atacantes ahora han convertido en actor malicioso a la misma IA. En la red social X (antes Twitter), lograron engañar al chatbot Grok para que difundiera enlaces de phishing desde su cuenta verificada.
En esta campaña, los cibercriminales evaden la prohibición de X de incluir enlaces en los mensajes promocionados —diseñada para frenar la publicidad maliciosa— mediante la publicación de vídeos llamativos. Los atacantes dan instrucciones maliciosas disfrazadas de comandos legítimos, insertan su enlace en el campo “from” debajo del vídeo y preguntan a Grok sobre su origen. El chatbot lee el mensaje, detecta el enlace y lo amplifica en su respuesta, otorgándole una falsa legitimidad.
“Este caso no es solo un problema de X o de Grok. Las mismas técnicas podrían aplicarse teóricamente a cualquier herramienta GenAI integrada en una plataforma de confianza. Esto pone de relieve el ingenio de los actores de amenazas y los riesgos que corren los usuarios al confiar en los resultados de la IA”, explicó Camilo Gutiérrez Amaya, jefe del Laboratorio de Investigación de ESET Latinoamérica.
¿Por qué es peligrosa esta técnica?
Convierte a Grok en un actor malicioso al hacerlo republicar enlaces de phishing.
Estas publicaciones de vídeo pagadas alcanzan millones de impresiones, propagando potencialmente estafas y malware.
Los enlaces ganan peso en SEO y reputación de dominio al provenir de una cuenta verificada.
Se detectaron cientos de cuentas repitiendo este proceso antes de ser suspendidas.
Los enlaces redirigen a formularios de robo de credenciales o descargas de malware, lo que puede derivar en la toma de cuentas o robo de identidad.
“La IA potencia la ingeniería social en dos sentidos: por un lado, los grandes modelos lingüísticos facilitan campañas de phishing más convincentes; y por otro, el abuso del chatbot de X dio origen a esta técnica llamada ‘Grokking’, una nueva forma de explotación de la GenAI por parte de los cibercriminales”, añadió Gutiérrez Amaya.
La consultora Gartner estima que un tercio (32%) de las organizaciones experimentó un intento de inyección durante el último año. Expertos señalan que existen numerosos escenarios en los que podría replicarse este tipo de ataque.
Los mensajes maliciosos pueden ocultarse en texto invisible, metadatos o caracteres Unicode. Cualquier sistema de IA que procese datos públicos es susceptible a la manipulación de información “envenenada” para generar respuestas maliciosas.
Recomendaciones para los usuarios:
Verificar siempre la URL real de un enlace antes de hacer clic.
Desconfiar de respuestas de IA que parezcan incongruentes.
Usar contraseñas únicas y seguras con autenticación multifactor.
Mantener software y sistemas operativos actualizados.
Contar con soluciones de seguridad multicapa de un proveedor confiable.
“Las herramientas de IA integradas han abierto un nuevo frente en la guerra contra el phishing. Asegúrate de no caer en la trampa: cuestiona siempre y no des por sentado que la IA tiene las respuestas correctas”, concluyó el investigador de ESET.
