En las últimas semanas, un caso inquietante ha sacudido la seguridad digital corporativa. Un modelo de inteligencia artificial, accedido mediante una técnica conocida como jailbreak, reveló claves reales de productos de Windows, incluyendo una asociada a un banco de renombre. Este hecho no solo expone vulnerabilidades técnicas, sino que revela una falla más profunda en cómo las empresas gestionan y protegen su información sensible. Lo que parecía un error aislado ahora se interpreta como un síntoma de un problema sistémico que la era de la IA está amplificando de manera imparable.
Según Amanda Levay, fundadora y CEO de Redactable, el verdadero problema no es solo que una clave haya sido expuesta, sino que esa clave, y otras como ella, ya estaban circulando libremente en el entorno digital. En algún momento, un documento que contenía datos confidenciales fue manipulado, compartido o supuestamente redactado, pero no limpiado con rigor. Ese archivo, imperfectamente sanitizado, terminó siendo parte del vasto conjunto de datos que alimentan los modelos de lenguaje.
AI is not creating the leaks, but it is magnifying their consequences, turning what used to be quiet errors into high-stakes exposures. - Amanda Levay, fundadora y CEO de Redactable
Esta afirmación resume con precisión el nuevo riesgo al que se enfrentan las organizaciones ya no basta con creer que la información está protegida porque se ha redactado superficialmente.
El incidente con el modelo de IA no es un caso único. Otro episodio reciente involucró a Meta durante un procedimiento antimonopolio. Su equipo legal presentó un documento PDF defectuosamente redactado, en el que párrafos completos seguían siendo recuperables con una simple acción de copiar y pegar. Entre los datos expuestos se encontraban métricas internas de iMessage de Apple, evaluaciones de Snap sobre la amenaza que representa TikTok y análisis estratégicos confidenciales de la propia Meta. La filtración no pasó desapercibida. Ejecutivos de Apple cuestionaron abiertamente la capacidad de Meta para manejar datos sensibles. Snap calificó el error como "egregious". Google lo describió como un "casual disregard" por la confidencialidad de sus competidores.
Estos casos ilustran cómo los procesos tradicionales de protección de datos están quedando obsoletos. Los modelos de lenguaje, entrenados con ingentes volúmenes de información pública, pueden absorber datos que creíamos eliminados o inaccesibles. Si una clave de producto, una contraseña o un detalle privado sobreviven al proceso de redacción de una empresa, pueden convertirse en parte del entrenamiento de un modelo o recuperarse mediante indicaciones inteligentes. La inteligencia artificial no inventa estos datos, pero sí los recupera, los combina y los hace disponibles a quien sepa cómo preguntar. Este fenómeno transforma errores que antes quedaban en el olvido en exposiciones globales de alto impacto.
Levay insiste en que la raíz del problema no está solo en la tecnología, sino en las prácticas organizativas. Las empresas siguen tratando la privacidad como un trámite legal, un requisito de cumplimiento, cuando en realidad debería ser una competencia central, una habilidad estratégica. La privacidad de los datos no es otra casilla de cumplimiento. En un entorno donde los flujos de datos son masivos y rápidos, donde la IA puede rastrear y reconstruir información fragmentada, cada descuido tiene el potencial de volverse público, con consecuencias impredecibles.
Los ciberdelincuentes ya no necesitan infiltrarse en sistemas altamente protegidos. Pueden automatizar búsquedas en foros, bases de datos públicas o incluso en las salidas de modelos de IA, buscando credenciales, claves o información estratégica que alguien olvidó borrar del todo. El riesgo no está en lo que se hackea, sino en lo que se deja atrás.
La solución, según Levay, no es retroceder en el uso de la IA, sino avanzar en la cultura de protección de datos. Las organizaciones que integren la privacidad en su ADN, que la conviertan en un valor operativo y no en una obligación formal, ganarán algo invaluable confianza. Confianza de sus clientes, de sus socios, de los reguladores. A menos que las organizaciones aborden el eslabón débil en sus flujos de trabajo de seguridad de la información, seguirán viendo que sus secretos salen a la superficie en lugares donde nunca lo habían previsto.
En este nuevo escenario, la pregunta ya no es si tu información está segura, sino si fue eliminada de verdad. Porque en el mundo digital, nada desaparece del todo. Y la inteligencia artificial, con su memoria insaciable, lo recuerda todo.