Google detects the first cyberattack developed entirely with AI/Google detecta el primer ciberataque desarrollado completamente con IA

Source
It was only a matter of time, and we all knew it. Google has confirmed what many experts already feared: artificial intelligence has gone from a promise of the future to an active tool in the hands of cybercriminals. The Google Threat Intelligence Group (GTIG) detected the first zero-day exploit created entirely with AI. Instead of writing the malicious code line by line, the attackers used a Large Language Model (LLM) to identify an unknown vulnerability in a two-factor authentication (2FA) system and generate the code to exploit it.

Era cuestión de tiempo y todos lo sabíamos, Google ha confirmado lo que muchos expertos ya temían: la inteligencia artificial pasó de ser una promesa de futuro a una herramienta activa en manos de ciberdelincuentes. El Google Threat Intelligence Group (GTIG) detectó el primer exploit de día cero (zero-day) creado completamente con IA . En lugar de escribir el código malicioso línea por línea, los atacantes utilizaron un modelo de lenguaje de gran tamaño (LLM) para que este identificara una vulnerabilidad desconocida en un sistema de autenticación de dos factores (2FA) y generara el código para explotarla.

The researchers noticed "flaws" very characteristic of how these models work. The code looked overly "perfect" and academic, something unusual in traditional malware created by humans. It included fake CVSS (Common Vulnerability Scoring System) metrics, a phenomenon known as AI "hallucination." Furthermore, the code was excessively commented and structured, with snippets of documentation and detailed help menus, like those used to train these systems.

Los investigadores notaron "errores" muy característicos de cómo funcionan estos modelos. El código tenía un aspecto demasiado "perfecto" y académico, algo inusual en el malware tradicional creado por humanos. Incluía métricas CVSS (Common Vulnerability Scoring System) falsas, un fenómeno conocido como "alucinación" de la IA. Además el código estaba excesivamente comentado y ordenado, con fragmentos de documentación y menús de ayuda detallados, como los que se usan para entrenar a estos sistemas.

Source
Overall, the program exhibited a structure and language very similar to that of textbooks and educational materials, not the fast, messy code typically written by hackers. This case confirms that the offensive use of AI is no longer experimental and is becoming systematic. What once required weeks or months of human work analyzing code for flaws can now be done by artificial intelligence in minutes or hours. Google warns that this is already an industrial-scale threat.

En general, el programa presentaba una estructura y un lenguaje muy similares a los de libros de texto y materiales educativos, no al código rápido y desordenado que suele escribir un hacker. Este caso confirma que el uso ofensivo de la IA dejó de ser algo experimental y se está volviendo sistemático. Lo que antes requería semanas o meses de trabajo de un ser humano analizando código en busca de fallos, ahora la inteligencia artificial puede hacerlo en minutos u horas. Google advierte que esto ya es una amenaza a escala industrial.

AI enables the design of adaptive and stealthy malware, increasing the sophistication of malicious operations. Attackers are already using it to create deepfakes, hyper-personalized phishing campaigns, and to map a company's infrastructure in detail. Furthermore, it makes it easier for less experienced criminals to launch complex attacks using artificial intelligence models and techniques like jailbreaking, which involves manipulating the model to ignore its own security rules and provide inappropriate responses.

La IA permite diseñar malware adaptativo y sigiloso, aumentando la sofisticación de las operaciones maliciosas. Los atacantes ya la usan para crear deepfakes, campañas de phishing hiperpersonalizadas o mapear la infraestructura de una empresa al detalle. Además, Facilita que delincuentes menos experimentados puedan lanzar ataques complejos utilizando modelos de inteligencia artificial y técnicas como el jailbreaking, que consiste en manipular al modelo para que ignore sus propias reglas de seguridad y nos dé respuestas poco adecuadas.

Source
Faced with this new reality where AI can create zero-day exploits in a matter of hours, companies must shift from a reactive defense to a proactive, layered strategy. It's not just about installing a more powerful antivirus; it's about redesigning the cybersecurity strategy, assuming that the adversary is now a machine that learns and adapts. AI accelerates attack times from weeks to minutes, forcing the implementation of preventative cybersecurity strategies. This involves not only searching for vulnerabilities but also neutralizing toxic combinations of risks before an attacker can chain them together.

Ante esta nueva realidad donde la IA puede crear exploits de día cero en cuestión de horas, las empresas tienen que pasar de una defensa reactiva a una estrategia proactiva y por capas. No se trata solo de instalar un antivirus más potente, sino de rediseñar la estrategia de ciberseguridad asumiendo que el adversario ahora es una máquina que aprende y se adapta. La IA acelera los tiempos de ataque de semanas a minutos, lo que obliga a implementar estrategias de ciberseguridad preventiva. Esto implica no solo buscar vulnerabilidades, sino neutralizar combinaciones tóxicas de riesgos antes de que un atacante las encadene.

Although in this case Google managed to coordinate with the affected provider to stop the attack in time, the conclusion is clear: it wasn't an isolated incident, but rather the first warning of a new era in cybersecurity. The key message is that speed and scale are the new variables in the equation. Companies that continue to rely on manual processes and regular human reviews will be overwhelmed. All of this reminds me, albeit on a smaller scale, of the Y2K bug, which also threatened to send us back to the Stone Age. Let's hope this crisis, too, has a happy ending.

Aunque en este caso Google logró coordinarse con el proveedor afectado para frenar el ataque a tiempo, la conclusión es clara: no fue un incidente aislado, sino el primer aviso de una nueva era en la ciberseguridad. La clave del mensaje es que la velocidad y la escala son las nuevas variables de la ecuación. Las empresas que sigan dependiendo de procesos manuales y revisiones humanas periódicas quedarán desbordadas. Todo esto me recuerda, aunque a menor escala, el fenómeno del efecto 2000 que también nos iba a llevar a la edad de piedra, esperemos que también esta crisis tenga un final feliz.

More information/Más información
https://securityaffairs.com/191984/ai/google-warns-artificial-intelligence-is-accelerating-cyberattacks-and-zero-day-exploits.html

https://www.infobae.com/tecno/2026/05/12/google-detecta-el-primer-ciberataque-desarrollado-completamente-con-inteligencia-artificial/