Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
La amenaza no siempre entra por la puerta grande de un vídeo falso. A veces llega en silencio, con mensajes distintos para cada grupo, pruebas masivas para medir qué frase activa, enfría o agota a un votante.
Josep Curto, experto en IA, académico y formador, sitúa ahí uno de los riesgos más difíciles de vigilar en un proceso electoral. No habla solo de convencer a un ciudadano, sino de perfilarlo, segmentarlo y probar sobre él qué mensaje lo moviliza o lo desanima.
"Los partidos pueden hacer pruebas masivas para encontrar qué frase moviliza o desactiva a cada grupo" - Josep Curto, experto en IA, académico y formador
Después añade una derivada menos visible y quizá más corrosiva. Los mensajes que buscan sembrar cinismo y cansancio pueden resultar muy eficaces cuando el objetivo ya no es atraer voto, sino rebajar las ganas de participar.
Los grupos cerrados concentran una parte del problema
Antonio Ortiz, experto en IA, desplaza el foco lejos de las plataformas públicas. Su preocupación principal no está tanto en lo que cualquiera puede ver, discutir o desmentir en abierto.
"Lo verdaderamente preocupante no sucede ante nuestros ojos en las plataformas públicas, antiguamente conocidas como redes sociales, sino en los entornos cerrados y privados" - Antonio Ortiz, experto en IA
Ahí entran los grupos de WhatsApp o Telegram, donde hay menos mecanismos de contestación y una mayor uniformidad ideológica. En esa circulación más cerrada también resulta más difícil medir el alcance real de los vídeos, como ya sugieren las campañas en redes cuando el mensaje se adapta al ritmo y al sesgo de cada audiencia.
Curto añade otra capa a ese mismo mecanismo.
"Estas técnicas de segmentación alimentan burbujas de información que van a tener ciertos grupos de ciudadanos y ahondan en su visión sesgada de la realidad" - Josep Curto, experto en IA, académico y formador
El problema no consiste solo en que una mentira circule más rápido. También pesa que cada grupo reciba una versión del debate público cada vez más estrecha, como si la campaña se fragmentara en muchas campañas paralelas que casi nunca se tocan.
La IA también puede fabricar apoyo donde no lo hay
No hace falta alterar un discurso o falsificar una imagen para deformar el clima político. Curto advierte de que cuentas y agentes sintéticos generados con IA pueden aparentar un respaldo ciudadano inexistente, tanto para apoyar a partidos como para fabricar una sensación de consenso.
El mayor daño puede aparecer cuando ya no distinguimos entre apoyo real y apoyo simulado. Ese efecto se parece menos a una falsedad concreta que a una pérdida gradual de referencias compartidas.
Curto lo resume con una advertencia de fondo.
"El riesgo colectivo no es crear una mentira concreta, sino perder el hábito de interrogar lo que vemos" - Josep Curto, experto en IA, académico y formador
Esa desconfianza general tiene un reverso inquietante. El propio Curto teme que el daño mayor no sea creer un vídeo falso, sino dejar de creer en los verdaderos, una erosión de confianza que ya asoma en la desinformación electoral con IA cuando la sospecha se vuelve permanente.
La administración electoral puede quedar al límite
Curto considera que un proceso electoral funciona como una infraestructura crítica. Por eso reclama verificación electoral, controles de identidad, moderación y atención ciudadana con recursos suficientes para responder durante la votación.
Su aviso es bastante concreto. Si la administración no cuenta con capacidad real para actuar, sostiene, cualquier control corre el riesgo de convertirse en puro teatro.
Un proceso electoral puede quedar al límite de su capacidad cuando la verificación llega tarde o no alcanza la escala del problema.
Ortiz introduce además una objeción que desborda el engaño puntual. Su temor principal no es solo que la ciudadanía sea manipulada, sino que el miedo y la inseguridad sirvan después para justificar recortes de libertades.
Ni siquiera los asistentes para comparar programas son neutrales
Tampoco los usos aparentemente prácticos quedan fuera de esa discusión. Curto advierte sobre los ciudadanos que recurren a asistentes conversacionales para comparar programas electorales, porque cualquier sesgo codificado en esos modelos puede multiplicarse por millones de consultas.
La paradoja es llamativa. La misma herramienta que promete ordenar propuestas puede introducir filtros invisibles heredados de su construcción, su entrenamiento y sus datos históricos.
Al final, la tensión no está solo en detectar un bulo, sino en sostener la costumbre de preguntar quién habla, para quién habla y con qué sesgo habla.