Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
Internet ya ha conocido epidemias digitales capaces de paralizar empresas, hospitales y administraciones. La novedad es otra, porque ahora la alarma no gira en torno a un gusano que repite siempre el mismo truco, sino a uno que podría decidir sobre la marcha qué puerta forzar en cada máquina.
Dario Amodei, presidente ejecutivo de Anthropic, ha planteado incluso un horizonte muy concreto. En una propuesta para ralentizar el desarrollo de la inteligencia artificial, advirtió de que dentro de seis o doce meses un enjambre de IA podría tomar el control de todo internet.
Toronto probó un gusano que cambió de táctica en cada máquina
En junio, investigadores de las universidades de Toronto y Cambridge crearon un gusano informático movido por inteligencia artificial que decide cómo atacar cada sistema a medida que avanza.
Nicolas Papernot, profesor de la Universidad de Toronto y coautor del experimento, sitúa el debate en un terreno menos fantasioso de lo que parece. Para él, la tecnología ya permite una toma de control de este tipo, aunque todo dependería de que ese enjambre lograra acceso a suficiente capacidad de computación para comprometer suficientes dispositivos.
"La tecnología ya permite una toma de control de este tipo, pero exigiría una cantidad enorme de computación" - Nicolas Papernot, profesor de la Universidad de Toronto
No sería un salto mágico de la máquina al apocalipsis digital. El cambio relevante consiste en que incluso un modelo menor puede averiguar qué estrategia funcionará, qué vulnerabilidad conviene atacar, cómo entrar en un aparato y cómo aprovechar su potencia de cálculo antes de saltar al siguiente objetivo.
Eso multiplica la superficie de ataque.
Sam Altman, presidente ejecutivo de OpenAI, lanzó este martes una advertencia en la misma dirección. Dijo que el mensaje más contundente que quería transmitir era la necesidad de defenderse de una oleada de ciberataques y añadió que no ve tan lejos la llegada de modelos de pesos abiertos capaces de causar daños graves.
Los precedentes ya costaron miles de millones
La historia reciente ofrece una medida útil del problema. Wannacry, NotPetya o la red de bots Mirai ya demostraron que un programa capaz de copiarse solo de una máquina a otra puede convertir fallos conocidos en una crisis global.
NotPetya causó unos 10.000 millones de dólares en daños. Papernot cree que un ataque impulsado por IA sería cientos de veces mayor, entre otras cosas porque NotPetya dependía de una sola vulnerabilidad y el experimento de Toronto mostró una lógica mucho más adaptable.
Mientras aquellos ataques explotaban caminos más o menos prefijados, aquí la amenaza cambia de forma a mitad del recorrido. Esa capacidad de tantear, corregir y volver a probar acerca estos sistemas a algo más parecido a una plaga oportunista que a una pieza clásica de malware.
El laboratorio ya dejó una lección incómoda. Durante el experimento, los investigadores colocaron sin querer un archivo con las contraseñas de todas las máquinas junto al código del gusano, y el programa empezó a repartir esas claves entre sus copias, lo que generó una segunda oleada de infecciones cuando intentaron frenarlo.
Apagar el enjambre también tendría un precio
Papernot identifica la computación como el principal cuello de botella para que un enjambre pueda seguir atacando. Desactivar servidores podría apagarlo, pero ese mismo apagón retiraría durante un tiempo la capacidad de cálculo que también sostiene usos legítimos.
Ahí aparece una paradoja muy material. La infraestructura que haría posible contener el problema sería a la vez la que dejaría sin servicio a una parte de la vida conectada que depende de esos centros de datos.
Miguel Ángel Liébana, evaluador autónomo de seguridad de Anthropic, recuerda además que erradicar un virus resulta tremendamente difícil. Pueden buscarse patrones de comunicación y hacerse análisis generalizados, pero nadie garantiza que en algún conjunto de servidores el modelo no permanezca dormido esperando el momento de reactivarse.
Esa dificultad encaja con un ciberataque autónomo estudiado en España, donde un agente actuó sin intervención humana directa, y también con el auge del phishing asistido por IA, dos señales de que la automatización ofensiva ya no pertenece solo a los escenarios teóricos.
La respuesta exigiría aislar sistemas a escala global
Martín Vigo, fundador de Triskel Security y del pódcast Tierra de hackers, describe una respuesta conocida en pequeño y problemática en grande. Primero habría que aislar los sistemas infectados y después desinfectarlos, pero con millones de equipos secuestrados por agentes maliciosos haría falta una coordinación global para detenerlo.
Vigo lo lleva a una imagen poco cómoda y muy concreta. Si el escenario alcanzara esa escala, dice, sonaría a que habría que aprender a vivir desconectados unos añitos para arreglarlo todo.
Papernot propone tratar la ciberseguridad como una emergencia de salud pública. La comparación no parece exagerada cuando una sola referencia histórica, NotPetya, dejó una factura de 10.000 millones de dólares y el propio investigador sostiene que un enjambre guiado por IA podría ir cientos de veces más lejos.