La carrera por la inteligencia artificial generativa suele presentarse como una historia de velocidad, potencia y productos cada vez más pulidos. Amnistía Internacional propone mirar debajo del capó y encuentra otra cosa, una cadena de extracción masiva de datos personales y un coste ambiental que ya provoca contestación social.
El informe Amnistía Internacional examina GPT 3, Gemini, Llama, DeepSeek, Midjourney y Stable Diffusion para medir los riesgos asociados al modo en que estas herramientas aprenden. La organización sostiene que buena parte del problema nace mucho antes de que el usuario escriba una instrucción o genere una imagen.
Banerji sitúa el conflicto en el diseño mismo de estos sistemas
Likhita Banerji, directora del Laboratorio de Rendición de Cuentas sobre el Uso de Algoritmos de Amnistía Internacional, aborda el núcleo del modelo de entrenamiento que sostiene a la IA generativa.
"Empresas de todo el mundo suministran productos de IA generativa bajo una apariencia de eficiencia y sofisticación cuando, en realidad, estos sistemas perpetúan violaciones masivas de la privacidad mediante la extracción ilegal de datos de la web con procesos automatizados de recopilación de datos —incluidos datos personales—, como imágenes y actividad en redes sociales, destinados a entrenar modelos de IA." - Likhita Banerji, directora del Laboratorio de Rendición de Cuentas sobre el Uso de Algoritmos de Amnistía Internacional
La acusación apunta a una práctica muy concreta. Imágenes, publicaciones y actividad en redes sociales acaban integradas en grandes conjuntos de entrenamiento sin consentimiento, una lógica industrial que convierte la web abierta en materia prima para modelos comerciales.
Después aparece una pregunta incómoda. Si el sistema funciona gracias a una recogida masiva de datos personales, ¿cuánto de su aparente comodidad descansa sobre una renuncia previa de derechos que nadie aceptó de forma expresa?
La huella material de la IA ya aparece en emisiones y conflictos locales
El debate no queda encerrado en la privacidad. El despliegue de esta infraestructura también pasa por centros de datos que consumen energía, agua y suelo en lugares donde esos recursos ya son motivo de tensión.
Google reconoció en su informe de sostenibilidad de 2024 que las emisiones de gases de efecto invernadero aumentaron un 48 % desde 2019, un incremento que atribuye a los centros de datos y a la cadena de suministro. Microsoft registró un aumento del 29 % entre 2020 y 2024, también vinculado a centros de datos que sostienen procesos de apoyo a la inteligencia artificial.
Mientras las cifras corporativas crecen, en Cerrillos, Querétaro y Arizona ya hay comunidades que rechazan nuevas instalaciones en zonas afectadas por sequías y escasez de electricidad. La discusión deja de ser abstracta cuando el progreso digital compite con el agua o con la red eléctrica de un territorio.
Amnistía pide prohibiciones y el sector responde a medias
Banerji insiste en que esta situación no responde a una ley natural del progreso técnico, sino a decisiones empresariales concretas sobre cómo construir y alimentar estos sistemas.
"Estas decisiones no son inevitables. Debemos cuestionar las decisiones de diseño adoptadas por empresas que crean sistemas de IA generativa basándose en datos de entrenamiento, incluidos datos personales, que se extraen sin consentimiento y en gran escala." - Likhita Banerji, directora del Laboratorio de Rendición de Cuentas sobre el Uso de Algoritmos de Amnistía Internacional
La organización reclama a los Estados que prohíban los sistemas autónomos de inteligencia artificial generativa basados en la extracción ilegal de datos de la web. También exige a las empresas que detengan de inmediato la extracción ilegal de datos personales sin consentimiento para entrenar modelos.
Amnistía contactó con Google, OpenAI, Meta, Stability AI, Midjourney, DeepSeek, Intel, VMware, Microsoft y Amazon. Hasta la fecha solo respondieron Microsoft, Amazon, Intel, OpenAI y Meta, una diferencia que también retrata el grado de exposición pública que cada actor acepta en este debate.
Banerji formula el reproche en términos más directos al hablar de derechos humanos y responsabilidad institucional.
"Esta es una de las prácticas más atroces entre las empresas de IA que operan con desprecio por los derechos humanos y debe abordarse urgentemente. Es posible una trayectoria diferente del desarrollo tecnológico si las autoridades actúan con urgencia para corregir el rumbo." - Likhita Banerji, directora del Laboratorio de Rendición de Cuentas sobre el Uso de Algoritmos de Amnistía Internacional
La imagen final no está en una pantalla ni en un laboratorio, sino en esa suma de rastros personales extraídos sin permiso y en centros de datos cuestionados en zonas con sequía o falta de electricidad. Ahí conviven la promesa de la IA y su factura más difícil de ignorar.