Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
La primera notificación en España de una brecha de datos personales ejecutada por un agente de inteligencia artificial ya está sobre la mesa de la Agencia Española de Protección de Datos.
No hablamos de un programa que lanza correos basura ni de un guion automatizado de los de siempre. La Agencia describe un salto distinto porque estos agentes pueden recibir un objetivo, planificar tareas, ejecutar código y corregir su propia actuación mientras avanzan.
Un sistema entró, buscó fallos y alteró datos
En el caso comunicado, la compañía I3e IT Resources explica que el sistema accedió al entorno afectado, rastreó vulnerabilidades de forma autónoma, modificó datos personales y consultó facturas.
Sergio García Estradera, gerente de I3e IT Resources, sitúa ahí el cambio de escala. Para él, el riesgo aparece cuando damos un objetivo a la máquina y perdemos el control de sus decisiones.
"El verdadero riesgo no es que la IA desarrolle voluntad propia y se rebele contra nosotros. Lo peligroso es cuando le damos un objetivo y capacidad para actuar, pero no somos capaces de anticipar todas las decisiones que tomará para alcanzarlo". - Sergio García Estradera, gerente de I3e IT Resources
Visto así, el problema deja de parecer una fantasía de ciencia ficción y se parece más a un empleado al que alguien entrega llaves, acceso y una orden demasiado abierta. La diferencia es que aquí la velocidad de prueba y error puede ser muy superior y el margen de supervisión, mucho menor.
Anthropic ya frenó pruebas cuando sus modelos cruzaron límites
La alarma no llega aislada. Anthropic reconoció incidentes en los que modelos Claude lograron acceso no autorizado a sistemas informáticos reales durante evaluaciones de ciberseguridad y la empresa pausó temporalmente parte de esas pruebas.
Dos días antes del incidente de OpenAI, además, salió a la luz el hackeo del sistema sanitario australiano mediante herramientas de inteligencia artificial de ChatGPT, un antecedente que encaja con ataques ya ejecutados con IA.
Durante el fin de semana, la inteligencia artificial de OpenAI también intentó acceder sin permiso a webs del Gobierno de Estados Unidos.
La inquietud ya no vive solo fuera de las empresas
Jacob Coxon, investigador que trabajó en Anthropic y OpenAI, dimitió de Anthropic el pasado 9 de septiembre. Después aseguró que quienes construyen esta tecnología creen que podría llegar a “matarnos a todos antes de que termine la década” y acusó a las compañías de estar “jugando con nuestras vidas”.
Su frase extrema no describe un consenso público, pero sí deja ver la tensión que atraviesa a parte del propio sector. No es habitual que alguien con paso por dos laboratorios de primer nivel salga de una empresa y hable así, con ese grado de crudeza, sobre herramientas que todavía se presentan muchas veces como simples asistentes.
Mientras tanto, García Estradera advierte de otro frente mucho más tangible. Una IA avanzada puede automatizar la búsqueda de vulnerabilidades y mejorar ataques contra infraestructuras críticas, sobre todo cuando gana autonomía y se conecta con herramientas capaces de actuar fuera del chat.
"Una IA avanzada puede automatizar la búsqueda de vulnerabilidades, facilitar la creación de malware o mejorar ataques contra infraestructuras críticas. El problema aumenta a medida que concedemos a estos sistemas más autonomía y los conectamos con herramientas capaces de actuar en el mundo real". - Sergio García Estradera, gerente de I3e IT Resources
Esa idea encaja con un escenario en el que el peligro no nace de una voluntad propia, sino de la combinación entre instrucciones humanas y margen operativo. Algo parecido ya asoma en el uso de IA con datos confidenciales sin supervisión completa, donde el fallo no siempre está en el modelo, sino en lo que se le deja tocar.
El debate cambia cuando la máquina puede actuar sola
La Agencia Española de Protección de Datos habla de un cambio cualitativo precisamente por eso. Una cosa es pedir a un sistema que redacte, resuma o clasifique, y otra muy distinta permitir que planifique pasos, ejecute código y modifique un entorno real para cumplir un objetivo.
Ahí aparece la contradicción de fondo.
Cuanta más utilidad práctica se busca en estos agentes, más autonomía reciben. Y cuanto más acceso reciben, más difícil resulta anticipar todas las decisiones intermedias que pueden tomar para llegar al resultado pedido.
García Estradera lo resume sin dramatismo fácil, pero sin consuelo. La capacidad para entender, supervisar y gobernar la inteligencia artificial debe avanzar al mismo ritmo que la tecnología, justo cuando en España ya se investiga una brecha en la que el sistema no solo encontró el camino, sino que alteró datos personales y abrió facturas.