Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
Una camiseta puede pasar desapercibida para una cámara aunque siga siendo perfectamente visible para cualquiera que camine a su lado.
Simon Weckert, diseñador, ha creado una prenda de camuflaje anti IA pensada para volver indetectables a las personas ante sistemas de videovigilancia. El proyecto no busca un truco de escapismo visual para humanos, sino poner a prueba cómo mira una máquina y dónde empiezan sus puntos ciegos.
Weckert usó la propia IA para romper su lógica
Ahí está la paradoja que sostiene toda la pieza. Weckert resumió esa idea con una frase breve y afilada sobre el método que eligió para construir la prenda.
"Usando la propia IA para romper el sistema". - Simon Weckert, diseñador
El objetivo era analizar el uso de inteligencia artificial en la videovigilancia, no solo fabricar una ropa llamativa. En el fondo, la pregunta resulta bastante cotidiana, porque cada vez más cámaras no miran como mira una persona, sino como mira un modelo entrenado con millones de ejemplos.
Weckert explica cómo funciona esa diferencia entre percepción humana y percepción algorítmica en una camisa contra YOLO, donde otra prueba ya mostraba hasta qué punto un detector puede confundirse con un patrón bien diseñado.
El estampado rompió la silueta que la cámara esperaba
La clave del diseño está en el estampado, que rompe el patrón de la figura humana para que el sistema de detección falle. Las formas superpuestas cortan la continuidad del contorno corporal y evitan que el algoritmo una la silueta de la cabeza con la del cuerpo como una sola presencia reconocible.
Weckert aborda justo ese fallo de lectura cuando describe qué ocurre con la figura humana dentro del sistema.
"Las formas superpuestas rompen la continuidad del contorno del cuerpo, de modo que el detector de IA ya no puede unir la figura de la silueta de la cabeza con la figura de la silueta del cuerpo". - Simon Weckert, diseñador
El resultado, sostiene el propio diseñador, es que el modelo no interpreta a la persona como persona. La camiseta no vuelve invisible a nadie para otros ojos, pero sí altera la probabilidad estadística con la que un detector decide que hay un cuerpo delante.
La prenda nació de un pulso repetido entre humano y algoritmo
No salió de una intuición estética.
La vestimenta se desarrolló mediante un bucle adversarial de prueba y error enfrentando el diseño humano al algoritmo de detección. El proceso consistía en generar una propuesta, enseñársela al detector, medir con qué grado de fiabilidad seguía localizando a la persona y volver a ajustar el patrón hasta derrumbar esa fiabilidad.
Ese método encaja con otra observación de Weckert sobre cómo aprenden estos sistemas. Para él, la IA no sabe qué es un ser humano en un sentido conceptual, sino que aprende a reconocer cómo suelen verse estadísticamente los humanos en millones de imágenes de entrenamiento.
Esa lógica recuerda que la vigilancia automática no identifica esencias, sino regularidades visuales, del mismo modo que la detección automatizada de vehículos depende de patrones previos y no de una comprensión humana del contexto.
Weckert lleva esa idea al extremo en su reflexión más precisa sobre el experimento.
"Los puntos ciegos de una máquina no son intuitivos para los humanos; no se puede diseñar contra la percepción de una máquina a simple vista; sólo la máquina puede decirte qué es lo que no logra ver. Hay una simetría poética en esto la misma clase de IA que vigila la plaza también le enseñó a la camiseta a esconderse". - Simon Weckert, diseñador
Por eso la frase más inquietante de todo el proyecto quizá no sea la de esconderse, sino la que define el resultado final. Cuando el estampado funciona, afirma Weckert, el modelo de IA lo lee como nada en absoluto.