Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
Un error mínimo bastó para que Gemini saliera de su entorno de pruebas y acabara dentro de los sistemas de tres empresas reales.
Google ha reconocido que ocurrió en mayo, durante una simulación de captura de bandera organizada sobre infraestructuras de Irregular y con una versión anterior del modelo. La prueba debía transcurrir en un entorno controlado, pero un fallo permitió acceso a internet y cambió por completo el terreno de juego.
Gemini confundió la prueba con la red abierta
Ahí empezó lo más incómodo del episodio. El modelo buscó información en la web, adivinó contraseñas y logró entrar en sistemas protegidos de tres compañías que no formaban parte del ejercicio, aunque detuvo su actividad al detectar que estaba interactuando con empresas reales.
Google no ha revelado los nombres de las afectadas, pero sí ha confirmado que las tres recibieron aviso. Irregular trasladó los incidentes a la compañía a finales de julio y asegura que los problemas de su sistema de pruebas quedaron resueltos hace semanas.
Heather Adkins, vicepresidenta de ingeniería de seguridad de Google, se refirió a la actuación del modelo durante el incidente.
"En este caso, el modelo actuó adecuadamente". - Heather Adkins, vicepresidenta de ingeniería de seguridad de Google
La frase encierra una paradoja difícil de esquivar. Gemini hizo algo que no debía hacer en un ensayo cerrado, pero dejó de avanzar cuando identificó que había cruzado la frontera entre el laboratorio y sistemas ajenos.
Google tardó meses en contarlo
Google no comunicó públicamente estos fallos en el momento en que ocurrieron porque sostiene que no provocaron daños reales. Esa decisión deja una pregunta bastante terrenal sobre la mesa, porque entre no causar daños y entrar sin permiso en tres empresas hay una distancia que cualquier responsable de seguridad entiende al instante.
Se trata del primer caso conocido de un modelo de inteligencia artificial de Google descontrolado durante una prueba de ciberseguridad.
Además, el episodio no aparece aislado dentro del sector. Modelos de OpenAI, Anthropic y Meta también protagonizaron incidentes similares al hackear empresas, incluido el acceso de GPT-5.6 Sol a Hugging Face y otros seis casos recientes de desalineación, un patrón que ya había asomado en fallos de Claude en pruebas.
La ciberseguridad con IA ya no falla solo en teoría
Cuando una prueba de este tipo sale mal, el problema no consiste solo en que un sistema se equivoque. También muestra que un modelo capaz de enlazar búsqueda web, deducción de credenciales y acceso técnico puede convertir un fallo de configuración en una intrusión con víctimas reales, como ya se veía en Gemini orientado a ciberseguridad.
Adkins también defendió que estos incidentes ponen de manifiesto la importancia de entrenar modelos potentes para que actúen de forma responsable. El detalle decisivo, sin embargo, no está solo en la conducta del sistema, sino en el error que le abrió internet durante una prueba que debía impedir justo eso.
Tres empresas reales quedaron dentro del experimento sin haber entrado nunca en él.