Deepfakes: técnicas, riesgos, mitigación y responsabilidades legales

Imagina que te encuentras con un vídeo de un político dando una noticia que jamás anunció o, incluso peor, un audio de un directivo aprobando una operación dudosa, todo sin haberlo hecho nunca. Así, nace lo que hoy se denomina deepfake, una tecnología asombrosa impulsada por inteligencia artificial que logra manipular imágenes, vídeos y audios con tal realismo que muchas personas no logran distinguir una falsificación de la realidad.

Por desgracia, este fenómeno está creando toda una generación de amenazas para la seguridad digital, la reputación personal y hasta la confianza colectiva. Es tan importante entender cómo funciona como saber protegerse, ya que tanto empresas como ciudadanos están en el punto de mira.

Cómo se crean los deepfakes: las técnicas clave

Mucha gente asocia los deepfakes únicamente con intercambiar rostros, pero lo cierto es que el abanico de posibilidades que abren las técnicas actuales de inteligencia artificial va mucho más allá. La creación de estos falsos tan sofisticados ha ido avanzando a gran paso, hasta el punto de que imitar una voz o modificar una emoción en pantalla es casi pan de cada día. Esta evolución se da sobre todo gracias a varios métodos de inteligencia artificial que, aunque tienen nombres rimbombantes, se apoyan en ideas llamativamente simples.

Redes generativas antagónicas (GANs)

En el corazón de la mayoría de los deepfakes viven las célebres redes generativas antagónicas (GANs). Aquí, la inteligencia artificial se convierte casi en un juego de polis y ladrones entre dos sistemas informáticos: el generador, como quien quiere colar una mentira cada vez más elaborada, y el discriminador, empeñado en desenmascararla.

• El generador: Se esfuerza en dar vida a imágenes falsas que resulten realmente creíbles.
• El discriminador: Se dedica a analizar constantemente las imágenes para descubrir qué es real y qué es ficción.

El generador, a fuerza de intentos, va perfeccionando sus obras, hasta que el discriminador cae en la trampa y ya no distingue lo falso de lo real. Por cierto, existen versiones como las Conditional GANs (cGANs), capaces de ajustar detalles concretos, facilitando escoger la expresión o el gesto a manipular con una precisión casi milimétrica.

Autoencoders y face swapping

Quizá menos famoso a nivel mediático, aunque igual de fascinante, el método de los autoencoders permite a la inteligencia artificial hacer “magia” con las caras. Estos sistemas comprimen la imagen de una persona y, acto seguido, la reconstruyen a partir de unos pocos datos clave. Con un truco similar a cambiar máscaras en una función de teatro, el sistema puede superponer la cara de un individuo sobre el cuerpo y las acciones de otro. Así, surge el famoso face swapping, ese efecto tan impactante que tantas veces sale en redes sociales.

Facial reenactment y transformación de imagen

Si lo del intercambio de caras te parece llamativo, hay técnicas que dan todavía más juego. Por ejemplo, el facial reenactment toma las expresiones de una persona y las encaja en la cara de otra en tiempo real, como si fueran marionetas digitales. Así puedes ver a alguien gesticulando o diciendo frases que jamás pronunció, lo que desde luego sorprende (y preocupa) a partes iguales.

Otras ideas, como CycleGAN y StarGAN, aportan aún más variedad, pues transforman detalles visuales en función de lo que se desee manipular. Entre sus trucos típicos figuran:

• Pasar de una cara neutral a otra sonriente con apenas unos clics.
• Alterar la edad para rejuvenecer o envejecer a una persona digitalmente.
• Modificar rasgos que hagan que alguien parezca de otro sexo o género.

Manipulación de audio y clonación de voz

Y si el ojo se engaña, el oído tampoco se salva. Gracias a la síntesis de voz, hoy en día es posible copiar la manera de hablar de cualquier persona usando unas pocas grabaciones. Se emplean redes neuronales de nombres menos técnicos de lo que parecen como RNNs para clonar voces y crear montajes tan convincentes que pueden poner en aprietos incluso a profesionales experimentados.

Esto, claro, multiplica la dificultad de detectar fraudes o suplantaciones.

Cuáles son los principales riesgos de los deepfakes

Lo más inquietante de los deepfakes no es la espectacularidad técnica, sino el abanico de problemas que puede desencadenar. Desde ataques directos a la privacidad personal hasta posibles crisis políticas, los riesgos son tan diversos como graves, afectando tanto a individuos como a componentes fundamentales de nuestra vida en sociedad.

Suplantación de identidad y desinformación

Quizá el uso más peligroso sea, en opinión de muchos expertos, la suplantación de identidad. No es tan raro que hackers y delincuentes utilicen vídeos o audios falsos para mentir, timar a empresas o sortear controles de seguridad. Pero la desinformación a gran escala también está a la orden del día. Un simple vídeo falso de un líder importante puede:

• Alterar la opinión pública justo antes de unas elecciones.
• Provocar movimientos inesperados en los mercados, a veces con grandes pérdidas.
• Sembrar la duda o el miedo en la sociedad, aunque solo sea durante unas horas.

Amenazas a la seguridad y la privacidad

Los deepfakes ponen en jaque la validez de aquello que antes se aceptaba como prueba digital irrefutable. Esto resulta especialmente delicado para jueces, periodistas o agentes policiales, quienes ya no pueden confiar simplemente en una grabación. Entre los riesgos más claros destacan:

• Extorsión y daño reputacional: Material comprometedor, como vídeos íntimos falsos, se utiliza para chantajear tanto a particulares como a figuras públicas o empresas, algo que resulta especialmente dañino.
• Ataques a infraestructuras críticas: Algunos ciberdelincuentes aprovechan comunicaciones falsas para interrumpir procesos vitales, por ejemplo, en seguridad nacional o energía.
• Violación de la privacidad: Usar datos audiovisuales sin permiso para generar deepfakes vulnera gravemente los derechos personales y la protección de datos.

Cómo detectar un deepfake: métodos y herramientas

Si algo está claro es que, por cada avance en la creación de deepfakes, surge otra innovación para desenmascararlos, en una suerte de competición interminable entre atacantes y defensores. A pesar del panorama, hoy en día hay formas muy efectivas de identificar manipulaciones si sabes en qué fijarte.

Métodos de detección

Identificar un deepfake exige combinar varias técnicas y no basta, desde luego, con mirar el vídeo detenidamente. Los expertos recomiendan prestar atención a cuatro estrategias principales:

1. Modelos de aprendizaje profundo: Usando potentes redes neuronales, como CNNs y Transformers, los sistemas actuales detectan patrones digitales anómalos en los vídeos que para el ojo humano pueden pasar desapercibidos.
2. Análisis forense digital: El método clásico de analizar los metadatos, el ruido de la grabación o errores en la compresión aún resulta increíblemente útil. Muchas veces, una manipulación deja huellas invisibles que estas técnicas pueden cazar.
3. Detección de anomalías fisiológicas: Algunos algoritmos se obsesionan con buscar detalles como parpadeos poco naturales, movimientos erráticos o cambios en el color de la piel, pistas sutiles que los deepfakes a menudo no logran imitar a la perfección.
4. Análisis de inconsistencias temporales: Las distorsiones, cambios abruptos de luz o errores mínimos entre fotogramas suelen indicar manipulación, y las máquinas son estupendas localizando estos fallos realmente sutiles.

Herramientas y recursos disponibles

Por suerte, los investigadores cuentan cada vez con mejores recursos centralizados que les ayudan a progresar en la detección de deepfakes. Un buen ejemplo es el repositorio FaceForensics, que pone a disposición:

• Datasets públicos: Miles y miles de vídeos falsos y reales que permiten entrenar sistemas de identificación y poner a prueba cualquier algoritmo.
• Códigos y benchmarks: Paquetes de programas y pruebas que comparan de forma objetiva el rendimiento de las mejores herramientas en este campo.

Estrategias para protegerse de los deepfakes

Minimizar los daños que pueden causar los deepfakes es asunto de todos. No basta solo con aplicar la tecnología más puntera, sino que es clave aumentar la formación y el sentido crítico, tanto en empresas como en la vida personal. Dependiendo del entorno, pueden combinarse distintos enfoques para reducir la exposición al peligro.

Medidas para organizaciones

Las empresas, sobre todo en sectores como la banca, la energía o la administración pública, tienen una gran responsabilidad. Lo ideal es apostar por sistemas de defensa en varias capas, que combinen distintos tipos de respuesta.

¿Qué herramientas pueden usar las empresas?

Ya existen proveedores especializados, que ofrecen servicios prácticos para identificar montajes.

Estas soluciones pueden analizar con rapidez vídeos, imágenes o audios sospechosos y, por ejemplo, son sumamente útiles para procesos de verificación de identidad y control de fraude, áreas donde cada segundo cuenta.

Recomendaciones para usuarios particulares

Como la última línea de defensa sigue siendo la actitud de cada persona, conviene recordar algunos consejos esenciales. La clave está en no precipitarse y desconfiar de los contenidos chocantes o llamativamente emocionales.

• Verifica la fuente: Busca siempre la confirmación en medios creíbles u organismos reconocidos antes de dar nada por cierto.
• Busca señales de alerta: Detalles como la falta de parpadeo, desajustes en la voz, cambios raros de luz o bordes “artificiales” en el rostro son habituales en los montajes.
• Utiliza herramientas online: Hay extensiones gratuitas y servicios básicos que hacen una primera criba de posibles falsificaciones.
• No compartas sin contrastar: Detener la viralización de contenido falso evita males mayores. Recuerda que la mayor parte del daño lo causa la rápida difusión.

Qué dice la ley en España sobre los deepfakes

Curiosamente, España todavía no cuenta con una normativa que regule los deepfakes de modo específico. El Código Penal ni siquiera menciona este tipo de creación digital, lo que podría hacer pensar que hay un vacío legal. Pero en realidad, quienes utilicen los deepfakes con intenciones maliciosas pueden ser perseguidos gracias a otras leyes ya existentes, que se adaptan para proteger a las víctimas.

Leyes aplicables en ausencia de una regulación específica

El marco legal actual se apoya en normas generales que garantizan derechos esenciales. La principal referencia es la Ley Orgánica 1/1982 de Protección Civil del Derecho al Honor, a la Intimidad Personal y Familiar y a la Propia Imagen. Según esta ley, utilizar la imagen de otra persona sin permiso (ya sea con fines comerciales o abusivos) constituye una intromisión ilegítima. Está claro que los deepfakes entran de lleno en este ámbito.

Por otro lado, dependiendo del uso concreto, generar un deepfake puede constituir causa para investigar los siguientes delitos:

• Delitos contra el honor: Calumnias y difamación si el montaje busca desprestigiar o humillar.
• Suplantación de identidad: Cuando el vídeo o audio falso sirve para engañar o estafar.
• Delitos contra la intimidad y la propia imagen: Especial atención merece la difusión de contenido manipulado de carácter privado.
• Estafa: El deepfake puede ser el gancho para obtener dinero de manera ilegal.

Además, la creación y uso de deepfakes implica el tratamiento de datos biométricos, por lo que tanto la LOPDGDD como el RGPD exigen un consentimiento explícito y reservas adicionales para proteger la privacidad de los afectados.

A decir verdad, la falta de sentencias específicas revela que la justicia aún está adaptándose. Hasta que exista una legislación dedicada, será trabajo de jueces y fiscales interpretar las normas, con el reto de adaptarlas a estos escenarios tan novedosos.

El entorno de los deepfakes es, sin duda, uno de los mayores desafíos para la confianza en la información. Mientras los métodos para falsificar evolucionan, también lo hacen los sistemas para detectarlos, en una carrera que nunca se detiene. Y como se suele decir, no basta con confiar en la tecnología: la mejor defensa sigue siendo una mezcla de innovación, formación y sentido común.

Por último, vale la pena remarcar que tanto las organizaciones como los ciudadanos debemos adoptar una postura activa y no simplemente reactiva. Aprender a cuestionar, comprobar y sospechar ante mensajes demasiado impactantes o poco verosímiles debería convertirse en una habilidad social de primer orden. La colaboración entre organismos, empresas tecnológicas y académicos es, ahora más que nunca, fundamental para garantizar que la confianza colectiva sobreviva al reto de los deepfakes.