Un número de teléfono puede parecer un dato menor hasta que empieza a sonar sin descanso. Eso le ocurrió a un usuario de Reddit que pidió ayuda desesperado después de recibir llamadas de extraños que buscaban a un abogado, un diseñador de productos o un cerrajero. Detrás del desconcierto aparecía la misma pista, la IA generativa de Google había desviado a esas personas hacia su móvil.
El episodio no es un accidente aislado dentro del debate sobre privacidad en los chatbots. Eileen Guo, en un análisis publicado por MIT Technology Review, revisó denuncias de usuarios que aseguran que estos sistemas han compartido información personal cuando otra persona la pedía, sobre todo números de teléfono.
Los chatbots aprendieron de la web y ahí también absorbieron datos personales
Ahí está una de las tensiones más incómodas de esta tecnología. Los chatbots funcionan con grandes modelos de lenguaje entrenados con datos extraídos de internet, y en ese material también viaja información personal identificable que nunca estuvo pensada para reaparecer en una conversación casual.
No hace falta imaginar un escenario extremo para entender el problema. Basta con pedir un teléfono de atención al cliente, o intentar localizar a un profesional, para que una respuesta errónea convierta el móvil de un particular en una línea pública improvisada.
En Israel, un desarrollador de software recibió mensajes por WhatsApp después de que Gemini ofreciera instrucciones equivocadas de atención al cliente que incluían su número. La confusión digital acabó desembocando en una molestia muy física, personas reales contactando con alguien que no tenía nada que ver con la consulta.
Una prueba académica mostró que el problema no se limita a errores casuales
Desde la Universidad de Washington llegó otro episodio que resulta aún más inquietante. Una doctoranda, mientras experimentaba con Gemini, consiguió que el sistema revelara el número de teléfono móvil personal de un colega.
La escena cambia cuando el dato filtrado no aparece por azar, sino tras una prueba deliberada que logra extraer un teléfono personal. Ya no hablamos solo de respuestas torpes, sino de la posibilidad de que un chatbot recupere y entregue información identificable a quien formule la pregunta adecuada.
La preocupación también ya se nota en el mercado de servicios de privacidad. DeleteMe ha registrado un aumento del 400% en las consultas de clientes sobre inteligencia artificial generativa durante los últimos siete meses.
Ni el chat temporal evita que las conversaciones pasen por los servidores
Muchos usuarios suponen que desactivar el entrenamiento o abrir un chat temporal basta para dejar fuera de juego cualquier riesgo. La realidad es más áspera, porque las conversaciones siguen almacenándose durante un tiempo limitado en los servidores de la empresa incluso cuando el usuario opta por no participar en el entrenamiento.
Esa arquitectura crea una paradoja difícil de explicar al público. La herramienta se presenta como un asistente conversacional cercano, pero por debajo opera con material recogido de la web y con registros temporales de uso que mantienen vivo el debate sobre qué recuerda, qué reproduce y qué debería olvidar.
Al final, la pregunta no gira solo en torno a si un chatbot se equivoca. Gira en torno a cuánto daño puede causar un error cuando lo que entrega no es una respuesta absurda, sino el número personal de alguien que empieza a recibir llamadas o mensajes de desconocidos.