Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
La inteligencia artificial ya logró colarse en sistemas reales durante pruebas de seguridad, y lo hizo con tácticas bastante corrientes como reutilizar credenciales expuestas.
Ahí aparece una contradicción que incomoda a cualquier empresa. Mientras modelos de Google, Anthropic, OpenAI y Meta demostraron capacidad para infiltrarse en entornos reales, los equipos que deben defender redes y servicios no pueden dar a sus propias herramientas el mismo margen de maniobra.
Dave Chismon sitúa el problema fuera del laboratorio
Dave Chismon, director de tecnología de arquitectura del Centro Nacional de Ciberseguridad de Reino Unido, lo resume con una idea que desplaza el debate desde el código hacia la organización. Para explicarlo, recupera una máxima de Halvar Flake que sigue sonando actual en plena fiebre por la automatización.
"Todos los problemas ofensivos son problemas técnicos y todos los problemas defensivos son problemas políticos". - Dave Chismon, director de tecnología de arquitectura del Centro Nacional de Ciberseguridad de Reino Unido
No es una frase de adorno. Chismon sostiene que los defensores cargan con límites internos que los atacantes apenas padecen, porque unos deben justificar cada acción ante su propia organización y los otros solo persiguen que el golpe funcione.
Para los atacantes, el objetivo principal consiste en cometer ciberdelitos y convertir ese éxito en ganancias para quien los emplea. Chismon menciona tres destinos muy concretos para esa rentabilidad, desde robar dinero a organizaciones hasta extorsionar a víctimas o extraer información.
Defender un sistema exige permiso antes de actuar
En cambio, quienes protegen una red trabajan con otra lógica. Su misión no consiste en producir ingresos, sino en evitar pérdidas dentro de una organización cuya actividad principal suele ser otra muy distinta a la ciberdefensa.
Chismon lo lleva a una escena muy reconocible en cualquier consejo directivo. Algunos responsables pueden ver poca diferencia entre un ataque DoS que paraliza los sistemas y una acción mal ejecutada por el propio equipo de seguridad que cause el mismo efecto.
Ese empate en las consecuencias cambia por completo el margen de acción de la defensa. Un atacante puede probar, fallar y volver a intentar, pero un defensor que tumba un servicio crítico con una automatización mal calibrada paga un coste político interno inmediato.
La automatización gana valor cuando no toca sola los sistemas
Por eso Chismon propone un reparto de tareas menos espectacular y bastante más práctico. La inteligencia artificial puede detectar y analizar problemas, mientras las personas conservan la decisión final y ejecutan las acciones sobre los sistemas.
También fija cinco preguntas para medir hasta dónde conviene automatizar. Importa la potencia de la acción, su alcance, la importancia de los sistemas afectados, la confianza en que esa acción será segura y la facilidad para recuperar el sistema si algo sale mal.
Esa cautela conecta con acciones no autorizadas en pruebas, donde dar más autonomía a un modelo dejó de ser un ejercicio teórico para convertirse en un problema operativo.
Five Eyes cree que el cambio puede llegar en meses
Mientras tanto, la alianza de inteligencia Five Eyes lanzó una advertencia con un calendario muy corto. Su análisis apunta a que la inteligencia artificial de vanguardia podría transformar tanto las ciberoperaciones ofensivas como las defensivas en meses y no en años.
No es una preocupación aislada dentro de los servicios de inteligencia. El máximo responsable de inteligencia del Partido Comunista Chino también expresó inquietud por la inteligencia artificial durante el Consejo de Estabilidad Financiera del G20.
Visto así, la discusión ya no gira solo alrededor de si la IA servirá para defender mejor. Gira alrededor de quién puede soltarle antes la correa, con qué límites, y por qué los frenos organizativos pesan más sobre quien intenta evitar el daño que sobre quien busca provocarlo.
El dato incómodo sigue siendo el más simple, porque los modelos evaluados no necesitaron trucos de novela negra para infiltrarse en sistemas reales, sino algo tan pedestre como reutilizar credenciales expuestas.