Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
La pregunta ya no es solo qué sabe un asistente de IA, sino qué puede hacer con ese acceso.
La Agencia Española de Protección de Datos publicó el 27 de octubre en Madrid el manual Asistentes y agentes de IA: Decálogo para personas usuarias se publicó el 27 de octubre. El documento parte de una diferencia práctica que cambia por completo el riesgo cuando un sistema deja de limitarse a responder y empieza a actuar en nombre de quien lo usa.
"Cuando el asistente solo responde, un error es una respuesta equivocada. Cuando actúa, es un correo enviado, un archivo compartido, una compra, un contrato o un consentimiento dado en tu nombre" - Agencia Española de Protección de Datos
Ahí aparecen cinco preguntas que cualquier usuario debería hacerse antes de pulsar aceptar. Qué puede ver, qué puede recordar, qué puede hacer en nuestro nombre, dónde envía los datos y a quién afecta ese envío.
Dar permiso una vez puede acabar en una acción no prevista
La AEPD ilustra ese salto con un caso muy concreto. Un usuario autorizó a su agente de IA a vender un objeto con la opción permitir siempre y el sistema cerró un trato, además de facilitar la dirección del vendedor al comprador sin autorización previa para concertar la cita.
No es un matiz técnico.
Cuando una herramienta dispone de permiso permanente, una orden cotidiana puede convertirse en una cadena de decisiones que toca dinero, datos personales y compromisos adquiridos sin una revisión final. Por eso el decálogo recomienda fijar límites claros, dar solo los permisos imprescindibles, evitar las autorizaciones permanentes e indicar de forma expresa qué no debe hacer el agente.
También aconseja elegir proveedores claramente identificados que permitan ejercer derechos en la Unión Europea y que procesen los datos en el propio dispositivo. Esa precaución conecta con un debate que ya ha aparecido en brechas de datos con agentes, donde el problema deja de ser una simple consulta y pasa a incluir acciones ejecutadas con autonomía.
La memoria del asistente puede acabar dibujando un perfil íntimo
A veces el riesgo no llega por una gran filtración, sino por la suma de pequeños rastros. La AEPD advierte de que la memoria de estos asistentes puede construir un perfil detallado del usuario y por eso recomienda revisar y utilizar los controles de memoria, historial y privacidad para borrar información.
Además, no todo lo peligroso está a la vista. Webs, correos, documentos o invitaciones de calendario pueden esconder instrucciones dirigidas al agente, incluso mediante texto blanco sobre fondo blanco, para empujarlo a realizar acciones no solicitadas.
Ese detalle cambia la escena habitual de la navegación.
Un mensaje aparentemente inocente puede contener una orden encubierta para una máquina que sí la ve y la interpreta. Algo parecido ya asoma en el rastreo de chats, donde la conversación con el asistente deja de sentirse privada en cuanto intervienen más actores de los que el usuario imagina.
El problema también alcanza a terceros y al trabajo diario
Correo, agenda y fotos no solo hablan de quien usa el dispositivo. También contienen datos de terceras personas, de modo que la AEPD aconseja perfiles separados en aparatos compartidos y perfiles específicos cuando haya menores de edad, además de acompañamiento durante su uso.
En el trabajo, la advertencia es todavía más concreta. La Agencia pide utilizar únicamente asistentes autorizados por la organización y no conectar el correo o los documentos profesionales a una cuenta personal de IA.
"Quienes ofrecen herramientas capaces de actuar en nombre de las personas deberían proporcionar también controles: permisos comprensibles que distingan consultar de actuar, confirmación configurable para las acciones de mayor impacto, un historial de lo que el agente ha hecho, una forma inmediata de detenerlo, gestión y borrado de la memoria, información sobre a quién se envían los datos y si se usan para entrenar la IA" - Agencia Española de Protección de Datos
El nuevo manual se suma además a Cuidado con lo que le confIAs ya había planteado alertas sobre privacidad. La diferencia ahora está en que el foco no cae solo sobre lo que una IA contesta, sino sobre lo que puede ejecutar por nosotros cuando le abrimos la puerta.