Pedirle a un chatbot un teléfono puede parecer una consulta banal. A veces no lo es. Detrás de algunas respuestas hay personas reales que acaban recibiendo llamadas, mensajes y confusiones que nunca buscaron.
Eso es lo que ha documentado Eileen Guo en un análisis publicado en MIT Technology Review sobre denuncias de usuarios que aseguran que varios chatbots compartieron información personal, sobre todo números de teléfono, cuando alguien los pidió de forma directa.
Los errores del chatbot terminan sonando en el móvil de otro
Uno de los casos más llamativos apareció en Reddit, donde un usuario contó que estaba desesperado porque su teléfono había quedado inundado por llamadas de desconocidos. Quienes llamaban buscaban a un abogado, un diseñador de productos y un cerrajero, todos desviados por la inteligencia artificial generativa de Google.
En Israel, un desarrollador de software recibió mensajes por WhatsApp después de que Gemini ofreciera instrucciones de atención al cliente equivocadas e incluyera su número. No hablamos de una abstracción técnica, sino de una molestia muy concreta que entra en el bolsillo y vibra a cualquier hora.
También una doctoranda de la Universidad de Washington consiguió que Gemini revelara el número de teléfono móvil personal de un colega mientras experimentaba con la herramienta.
El problema no desaparece aunque el chat parezca privado
Muchos usuarios asumen que desactivar el entrenamiento o abrir un chat temporal basta para borrar el rastro. Sin embargo, las conversaciones con chatbots permanecen almacenadas en los servidores de las empresas durante un tiempo limitado incluso en esos casos.
Esa permanencia importa porque la privacidad no depende solo de lo que uno publica. También depende de lo que una máquina puede recordar, reconstruir o mezclar cuando alguien formula la pregunta adecuada.
Internet ya venía cargado de datos personales antes del auge de la IA
Los modelos de lenguaje grande aprenden con cantidades enormes de información extraída de internet. En ese material hay cientos de millones de casos de información personal, una base que eleva la probabilidad de que aparezcan datos identificables en las respuestas.
Ahí está la contradicción. Estas herramientas responden con la soltura de quien parece improvisar, pero en realidad trabajan sobre un archivo inmenso de textos donde nombres, teléfonos y rastros biográficos ya circulaban desde mucho antes.
De hecho, el aumento de uso de estos sistemas ha reavivado un viejo problema de la red, el de privacidad en la inteligencia artificial, ahora amplificado por interfaces que entregan una respuesta directa en vez de una lista de enlaces.
Las consultas sobre borrado y protección ya se han disparado
DeleteMe, una empresa centrada en la eliminación de datos personales, ha registrado un aumento del 400% en las consultas de clientes sobre inteligencia artificial generativa durante los últimos siete meses.
DeleteMe ha registrado un aumento del 400% en las consultas sobre IA generativa en siete meses. La cifra sugiere que la inquietud ya no se limita a laboratorios, reguladores o especialistas en seguridad, sino que ha llegado a usuarios corrientes que intentan recuperar el control de su información.
Y el detalle más incómodo sigue ahí. Aunque el error parezca una simple respuesta equivocada, para quien recibe las llamadas o los mensajes el problema tiene un número concreto, un móvil real y una interrupción que no la cometió.