Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
El daño no ocurre en una pantalla aparte. Ocurre sobre el rostro de una persona real.
Ruchi Kokcha lo nombró sin rodeos cuando vio imágenes sexuales falsas creadas con inteligencia artificial a partir de su imagen. Para ella, aquello fue un abuso sexual digital.
"Fue un abuso sexual digital" - Ruchi Kokcha, víctima de imágenes generadas por inteligencia artificial sin su consentimiento
Desde diciembre de 2025, Grok incorporó una función de generación y edición de imágenes que facilitaba modificar fotos con muy pocos pasos. Apenas unos días después, el Centro para Contrarrestar el Odio Digital calculó tres millones de imágenes de contenido sexual explícito creadas con esa herramienta entre el 29 de diciembre y el 8 de enero.
India respondió cuando las imágenes falsas dejaron de ser casos aislados
El 2 de enero, el Ministerio de Electrónica y Tecnología de la Información de India exigió a X la retirada de contenido obsceno generado por Grok. La plataforma terminó bloqueando unos 3.500 contenidos y eliminó más de 600 cuentas vinculadas a imágenes sexualizadas creadas con esa tecnología.
No era un episodio desconectado del resto.
En 2021 apareció en GitHub la aplicación Sulli Deals y en enero de 2022 llegó Bulli Bai, dos plataformas creadas para poner en venta a mujeres indias. Más tarde circularon un deepfake sexualmente explícito de 19 minutos de la youtuber Payal Gaming y también imágenes manipuladas de la actriz Girija Oak.
Aquí la velocidad importa tanto como la escala. Apar Gupta, director fundador de la Internet Freedom Foundation, advirtió que una sola imagen puede convertirse después en un vídeo manipulado o en nuevo contenido sexualizado, de modo que el acoso ya no queda en insultos o mensajes, sino que avanza hacia piezas multimedia capaces de provocar estigmatización, perjuicios laborales y coacción.
Esa cadena explica por qué el problema desborda la anécdota tecnológica y entra de lleno en la vida cotidiana. También ayuda a entender la violencia digital más accesible que aparece cuando una herramienta de edición masiva reduce el tiempo, el coste y la fricción para humillar a alguien.
"Cuando alguien usa IA para crear imágenes sexuales falsas de una persona sin su consentimiento es una violación de los derechos humanos básicos. Que sea online no significa que sea menos delito" - Ruchi Kokcha, víctima de imágenes generadas por inteligencia artificial sin su consentimiento
Las mujeres reciben el golpe con más frecuencia y con más coste
Nikhil Pahwa, fundador y editor de una publicación centrada en política digital en la India, situó el problema en un marco social más amplio al señalar que las mujeres sufren estos ataques de forma desproporcionada no solo en India, sino en todo el mundo. Priyanka Chaturvedi, diputada del Parlamento de la India, contó además que había visto varios vídeos falsos en los que ella misma aparecía y los calificó de censurables.
Después escribió al ministro de Electrónica y Tecnología de la Información para trasladar su preocupación por la multiplicación de imágenes falsas de mujeres con contenido sexual en redes. Kokcha resumió otra consecuencia menos visible cuando dijo que muchas mujeres van a tener que evaluar constantemente el riesgo antes de estar presentes en plataformas digitales.
Mientras tanto, xAI limitó la generación de imágenes a suscriptores de pago y bloqueó geográficamente la opción de desnudar a personas en territorios donde ese contenido es ilegal. La medida contiene una contradicción difícil de ignorar, porque reconoce un riesgo jurídico claro después de haber puesto en circulación una herramienta capaz de producirlo a gran escala.
La presión legal ya no se limita a una sola jurisdicción
India cuenta con el Reglamento de Tecnologías de la Información y con el proyecto de Ley Digital India, que permiten imponer multas de hasta 500 millones de rupias, unos 4,6 millones de euros, a las plataformas que no frenen la difusión de contenidos nocivos. A la vez, ya se han promovido acciones legales contra xAI en Estados Unidos, Países Bajos y Reino Unido.
En marzo, los países de la Unión Europea acordaron pedir la prohibición de los sistemas de inteligencia artificial que permitan crear imágenes sexualizadas sin consentimiento y también pornografía infantil. No es una discusión abstracta, como ya muestran los deepfakes sexuales entre adolescentes, donde la facilidad técnica y el daño personal empiezan a caminar demasiado cerca.
"Pero esto es diferente. Me dio la sensación de que alguien había tomado el control de mi imagen. La línea que separa el 'esto soy yo' del 'esto no soy yo' se vuelve muy difusa, y eso resulta profundamente inquietante" - Ruchi Kokcha, víctima de imágenes generadas por inteligencia artificial sin su consentimiento
Ahí aparece la grieta más difícil de medir con cifras. X retiró miles de contenidos y cerró cientos de cuentas, pero entre el 29 de diciembre y el 8 de enero ya habían circulado tres millones de imágenes sexuales explícitas creadas con Grok.