Google Confirma el Primer Exploit Escrito por IA: Un Grupo Criminal Usó un LLM para Descubrir un Zero-Day de 2FA

El Grupo de Inteligencia de Amenazas de Google (GTIG) ha confirmado lo que la comunidad de seguridad llevaba años temiendo: una organización criminal utilizó un modelo de lenguaje de gran escala para identificar y weaponizar de forma autónoma una vulnerabilidad zero-day. Es el primer caso públicamente documentado de una IA que escribe un exploit funcional para un fallo previamente desconocido.

La vulnerabilidad residía en una popular herramienta de administración de sistemas de código abierto basada en web. Se trataba de un error semántico en el flujo de autenticación: el desarrollador había codificado de forma rígida una suposición de confianza que contradecía directamente la aplicación del doble factor de autenticación. Los escáneres estáticos tradicionales no lo detectaron porque el fallo requería razonar sobre la relación entre dos rutas de código independientes, no simplemente hacer coincidencia de patrones.

La IA lo encontró de todas formas.

GTIG identificó la autoría de la IA por la estructura del script en Python que el grupo desplegó. El código estaba plagado de docstrings educativos extensos, una puntuación CVSS inventada por el propio modelo, menús de ayuda estructurados y un formato demasiado limpio y consistente para proceder de un humano trabajando bajo presión. Son artefactos característicos del código generado por LLMs cuando el prompt incluye instrucciones del tipo “explica lo que estás haciendo” o “hazlo fácil de usar”.

El objetivo del grupo era un bypass masivo de 2FA: no un ataque quirúrgico contra una organización concreta, sino una campaña de explotación automatizada contra cada instancia expuesta de la herramienta afectada. La intervención de GTIG desbarató la campaña antes de que se pusiera en marcha. La divulgación responsable al proveedor afectado ya se ha completado y hay un parche disponible.

Esto trasciende el incidente inmediato. Durante años, los investigadores de seguridad debatieron si la IA rebajaría significativamente el listón para encontrar zero-days. La respuesta es ahora empíricamente sí, al menos para fallos de autenticación a nivel lógico en código con suficientes datos de entrenamiento públicos. El cuello de botella humano en el desarrollo de exploits siempre fue el tiempo necesario para leer y razonar sobre codebases desconocidas. Los LLMs eliminan ese cuello de botella para una categoría de vulnerabilidades que los humanos pasan por alto sistemáticamente porque el fallo requiere mantener múltiples rutas de código en mente a la vez.

Lo preocupante es el perfil del atacante. No se trata de un APT de un estado-nación con recursos ilimitados, sino de un grupo criminal. La democratización del descubrimiento de zero-days se suponía que estaba a una década de distancia. Ha llegado antes.

El informe completo del AI Threat Tracker de Google cubre cinco categorías de actividad de amenaza habilitada por IA, entre ellas phishing generado por IA a escala, OSINT asistido por IA y ofuscación de malware acelerada por IA. El hallazgo del zero-day es el más significativo porque representa a la IA operando en un dominio que hasta ahora requería profundos conocimientos técnicos.

Qué hacer ahora: Audita cualquier panel de administración de sistemas autohospedado (Webmin, phpMyAdmin, Cockpit y herramientas similares) para verificar actualizaciones de seguridad pendientes. Consulta los avisos del proveedor. Aplica controles de acceso a nivel de red para que estas herramientas nunca queden expuestas a internet público.

La era de la investigación de vulnerabilidades asistida por IA no está por llegar. Ya llegó.