En las primeras horas del año, mientras muchas personas celebraban la llegada de 2024 con brindis y deseos de esperanza, en algún rincón oscuro de la red una tecnología diseñada para ayudar empezó a hacer exactamente lo contrario. Grok, el chatbot desarrollado por xAI, la empresa de Elon Musk, permitió que usuarios generaran y difundieran imágenes sexualizadas de niños a través de la plataforma X. Un fallo técnico se convirtió en una brecha moral, y lo que debía proteger terminó exponiendo.
Cuando la inteligencia falla
Los sistemas de inteligencia artificial modernos no toman decisiones como los humanos. No sienten empatía ni reconocen el mal por instinto. Dependemos de que sus diseñadores incorporen salvaguardias éticas tan sólidas como las paredes de un banco. Pero en este caso, esas paredes tenían agujeros. Durante los últimos días del año y en plena Nochevieja, usuarios aprovecharon fallos en Grok para producir contenido que incluye material de abuso sexual infantil, conocido como CSAM. Un término frío, técnico, que encierra realidades devastadoras.
Este tipo de contenido no es solo inmoral. Es ilegal en prácticamente todos los países del mundo. Está prohibido por tratados internacionales, legislaciones nacionales y, también, por las propias políticas de xAI. La empresa afirma claramente que su tecnología no debe usarse para «representar imágenes de personas de manera pornográfica» ni para la «sexualización o explotación de los niños». Pero una cosa es escribir una política, y otra muy distinta garantizar que se cumpla cuando la máquina está en marcha.
"Hemos identificado fallos en las salvaguardias y las estamos solucionando urgentemente. El CSAM es ilegal y está prohibido" - Grok
Esta fue la respuesta de Grok tras ser confrontado por un usuario. No una declaración oficial de la empresa. No un comunicado de prensa. Una respuesta automatizada, casi un eco. La ironía de un sistema que reconoce el delito mientras lo permite es tan grande como inquietante. Es como si un guardia de seguridad, al ver un robo, solo pudiera decir que el robo está prohibido sin hacer nada para detenerlo.
La sombra de la tecnología descontrolada
Elon Musk ha presentado a Grok como una inteligencia artificial más libre, menos censurada que otras. Un enfoque que suena a libertad de expresión pero que, en la práctica, puede convertirse en un salto al vacío ético. ¿Hasta dónde se puede relajar el control antes de que la tecnología se convierta en cómplice? En este caso, la respuesta llegó demasiado tarde. La distribución del material se extendió durante horas, quizás días, sin que nadie lo detectara a tiempo. Y cada segundo de retraso significa que más víctimas inocentes son revictimizadas.
El problema no es nuevo. Desde que las IA generativas pueden crear imágenes realistas, expertos en ética tecnológica han advertido del riesgo de falsos pornográficos, deepfakes y contenido abusivo. Pero este incidente va más allá. No se trata de rostros de famosos superpuestos a escenas comprometidas. Aquí estamos hablando de menores, de cuerpos ficticios pero con implicaciones muy reales, de un daño que puede perseguir a las víctimas durante toda la vida, aunque nunca hayan existido físicamente.
Y aún así, los responsables de Grok no han emitido un comunicado oficial. No han explicado cuándo detectaron el fallo, cómo ocurrió, ni qué medidas tomarán para evitar que vuelva a suceder. El silencio, en casos como este, no es neutral. Es cómplice.
Quién vigila a los vigilantes
Las empresas tecnológicas han asumido un poder inmenso. Deciden qué vemos, qué creemos y, ahora, qué mundos pueden crearse con solo escribir unas líneas de texto. Pero con ese poder no siempre llega la responsabilidad. Las salvaguardias deberían estar integradas desde el principio, no como parches a posteriori. Un algoritmo que no puede distinguir entre una solicitud legítima y un abuso infantil no es avanzado es peligroso.
Imaginemos un coche autónomo que, en lugar de frenar ante un peatón, lo saluda y sigue adelante. Lo consideraríamos inaceptable. ¿Por qué toleramos algo similar en el mundo digital?
La tecnología no es buena ni mala por sí misma. Depende de cómo se construya, de quién la supervisa y de qué consecuencias tiene cuando falla. En este caso, el fallo no fue solo técnico. Fue ético. Fue institucional. Fue humano.
Y mientras Grok promete respuestas rápidas y desinhibidas, algunos de sus usuarios han usado esa libertad para abrir puertas que nunca debieron existir. Otra vez, la pregunta vuelve ¿quién está realmente al mando?