Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
Cuantos más datos traga una inteligencia artificial para generar imágenes, menos pesa cada imagen concreta en el resultado final.
Ahí aparece una paradoja incómoda para uno de los debates más sensibles de la IA generativa. Si una obra individual deja de tener influencia apreciable a medida que crece el entrenamiento, atribuir la salida final a ese ejemplo concreto empieza a parecer menos una certeza técnica que una intuición difícil de sostener.
El MIT puso a prueba una pregunta que parecía imposible de medir
El Laboratorio de Ciencias de la Computación e Inteligencia Artificial del MIT acaba de publicar en Nature Communications un estudio centrado en la procedencia y la autoría en generadores de imágenes. El trabajo identifica un fenómeno al que llama decaimiento de la atribución.
Zheng Dai, antiguo investigador del laboratorio del MIT y autor principal del estudio, lo resume con una idea sencilla.
"Si se elimina un dato y el resultado del modelo no cambia, el dato evidentemente no afectó el resultado. Para él, no tiene sentido atribuir el resultado al dato. Si se hace la repetición del proceso con otros datos y se observa el mismo comportamiento, tampoco tiene sentido atribuir el resultado a todo lo demás". - Zheng Dai, antiguo investigador del MIT y autor principal del estudio
La dificultad estaba en demostrarlo de forma directa y no solo con indicios. David Gifford, profesor del MIT e investigador principal, explica que el equipo desarrolló el primer método absoluto para probar ese efecto al eliminar entradas y sus influencias mediante un entrenamiento desde cero sin la imagen retirada.
El conjunto de difusión evitó reentrenar desde cero cada vez
Para resolver ese cuello de botella, el equipo creó una arquitectura llamada conjunto de difusión. Reúne varios componentes más pequeños, cada uno entrenado con cantidades distintas de datos, y así construye un modelo contrafactual real sin tener que repetir todo el entrenamiento desde el principio. Ese diseño recuerda hasta qué punto la ingeniería de la IA también consiste en buscar atajos verificables para preguntas que, de otro modo, costarían un volumen de cálculo casi prohibitivo.
Además, la comparación no quedó en una idea elegante sobre el papel. Los investigadores enfrentaron su propuesta a 24 modelos de difusión convencionales entrenados con los mismos datos y obtuvieron una calidad de imagen similar, con un mejor comportamiento del conjunto cuando aumentaba el volumen de datos, un debate que también asoma en respuestas cada vez más parecidas entre sistemas distintos.
24 modelos bastaron para ver cómo se encoge la huella de cada imagen
La prueba a gran escala se apoyó en 24 modelos entrenados con conjuntos que iban de 256 a 160.000 imágenes. El resultado fue consistente. A mayor tamaño del conjunto de entrenamiento, menor era el radio contrafactual y menor la influencia de los datos originales.
Dicho de otra manera, una imagen concreta deja una huella más difícil de detectar cuando queda diluida entre decenas de miles. No es una metáfora jurídica ni una discusión filosófica en abstracto, sino un comportamiento medible dentro del propio sistema, igual que ocurre cuando los modelos que mezclan imagen y texto amplían capacidades a costa de hacer más opaco el rastro de cada pieza de entrenamiento.
El dato más incómodo sigue ahí. Entre 256 y 160.000 imágenes de entrenamiento, el estudio observó que el radio contrafactual se reduce justo cuando más difícil resulta sostener qué parte del resultado pertenece de verdad a una imagen individual.