La promesa suena sencilla, pero el problema no lo es. Identificar contenido creado por inteligencia artificial exige marcas que no se vean, no se oigan y, aun así, dejen rastro.
Enrique Dans, experto en innovación tecnológica y sistemas de información, sitúa ahí a SynthID, una tecnología creada por Google DeepMind para insertar marcas de agua invisibles en materiales generados con IA. La idea recuerda a una huella dactilar que nadie percibe a simple vista, pero que un sistema entrenado sí puede reconocer.
Las imágenes esconden un patrón que la vista no detecta
Dans describe el sistema visual como una red de pequeñas modificaciones repartidas por los píxeles. Esos cambios no alteran de forma perceptible la calidad de la imagen o del vídeo, aunque sí dejan una firma matemática que los detectores pueden localizar.
Ahí está la clave de una tecnología que ya apareció en huellas digitales invisibles aplicadas a imágenes generadas por IA.
El audio cambia por dentro aunque el oído no note nada
Javier Galué, divulgador de Inteligencia Artificial, explica que en los archivos de sonido la marca opera sobre frecuencias que el oyente no percibe. Las herramientas especializadas de IA, en cambio, sí pueden detectar esa alteración escondida en el archivo.
El mecanismo no funciona igual cuando el contenido es texto, y ahí la dificultad resulta menos intuitiva para el lector.
Dans explica que, en ese caso, la señal se introduce al modificar ligeramente la probabilidad con la que el sistema escoge ciertas palabras. El texto sigue sonando natural para quien lo lee, pero conserva patrones estadísticos que permiten inferir después si salió de un modelo con ese sistema de marcado. Ese matiz enlaza con otro debate cercano, el de traducciones y resúmenes hechos por IA, donde la identificación del origen también depende de señales que no siempre son visibles.
Editar un archivo puede borrar la pista
Ahora bien, una marca invisible no equivale a una prueba indestructible.
Dans advierte de que esas señales pueden degradarse o desaparecer cuando alguien edita, recorta, comprime, traduce, reformula o vuelve a procesar el contenido con otros sistemas. Basta pensar en la cadena habitual de internet, donde una imagen se descarga, se reenvía, se recorta para encajar en pantalla y termina comprimida varias veces.
"Aunque las marcas de agua representan una herramienta interesante para mejorar la trazabilidad de los contenidos generados por IA, resulta exagerado presentarlas como una solución definitiva al problema de la identificación de contenido sintético. Más bien, son una capa adicional de información que puede ayudar en determinados contextos". - Enrique Dans, experto en innovación tecnológica y sistemas de información
La utilidad de estas técnicas, por tanto, depende tanto de cómo se inserta la señal como de lo que le ocurre después al archivo. Esa tensión entre rastrear el origen y asumir que el rastro puede romperse explica por qué una marca de agua ayuda, pero no resuelve por sí sola la pregunta que más pesa cuando circula un contenido dudoso.
El resultado final deja una paradoja incómoda. Cuanto más fácil resulta copiar, traducir, recortar o reformular un contenido, más valor tiene la marca invisible y más sencillo puede ser perderla.