Barcelona respira tecnología. No solo en sus calles, con sus antenas, pantallas y sensores, sino en la forma en que piensa su futuro. El pasado jueves, en un estudio con olor a innovación y debates bien fundados, se reunió una parte de ese pensamiento colectivo. Un foro impulsado por Retina con Santander, Google como socio anual y HP como colaborador, donde las palabras clave no fueron solo algoritmos o big data, sino ética, ciudadanía y responsabilidad.
La inteligencia artificial ya no es ciencia ficción. Está en los semáforos que regulan el tráfico, en los formularios que se rellenan solos, en los drones que vigilan playas sin grabar rostros. Pero su presencia obliga a una pregunta incómoda ¿quién decide cómo se usa? Y más aún ¿quién se hace responsable cuando algo falla?
La ética no es un software
Uno de los mensajes más contundentes del encuentro fue también el más sencillo de entender la ética no se programa. Al menos no como si fuera un código ejecutable.
"La ética es una condición humana, y la IA no lo es"
Detrás de cada sistema automatizado hay decisiones humanas, sesgos históricos y estructuras de poder.
"No creo que tenga sentido una IA artificial ética" - Irene Unceta, profesora de Esade
Irene alertó sobre el peligro de la antropomorfización tecnológica. No se trata de enseñar a una máquina a ser buena, sino de diseñar sistemas que eviten el daño desde el principio. La privacidad, la autonomía y la autoridad no son funcionalidades, son derechos. Y si no se incorporan al diseño, se pierden en la ejecución.
Es fácil caer en la ilusión de que la tecnología es neutral. Pero una IA entrenada con datos del pasado reproduce desigualdades del pasado. Si los patrones que aprende están sesgados, sus decisiones también lo estarán. La clave no está en la máquina, sino en cómo la construimos y para qué propósito.
Ciudades que aprenden, pero no deciden
Michael Donaldson, director general de BIT Habitat del Ayuntamiento de Barcelona, pintó un panorama claro las ciudades enfrentan problemas que no tienen solución simple. Cambio climático, movilidad, brecha digital, soberanía tecnológica.
"Las administraciones, las estructuras, responden al siglo XIX"
Y cuando las estructuras son antiguas pero los retos son nuevos, las respuestas simples suenan a populismo.
En Barcelona ya se usan drones para vigilar playas sin comprometer la identidad. Cámaras con IA aceleran el transporte público borrando automáticamente a las personas de las grabaciones. Solo quedan matrículas. Datos útiles, pero anónimos. El equilibrio entre eficiencia y privacidad no es una teoría, es una práctica diaria.
Donaldson insistió en que hay líneas rojas no discriminación, identidad digital, privacidad, derechos a la salud, educación y trabajo.
"Es ahí donde podemos aportar valor añadido de cara al bien común" - Donaldson
Y para reforzar el mensaje, anunció una experiencia simbólica música generada por IA a partir del movimiento de los ciudadanos, activa las 24 horas durante un tiempo limitado. No es solo arte. Es una forma de decir la tecnología no está en las nubes, está aquí, entre nosotros.
La IA no decide, las personas sí
La Generalitat de Catalunya dio un paso adelante al crear la Dirección General de Inteligencia Artificial, Eficiencia y Datos. Su director, Miralles, dejó claro el rol de la tecnología
"La IA no decidirá serán las personas"
.Un recordatorio necesario en tiempos en que muchos temen que las máquinas tomen el control.
Pero también hay realismo. Se automatizarán las tareas que la sociedad acepte. No todo debe ir a piloto automático. Miralles destacó un riesgo poco comentado las IA funcionan bien con lo mayoritario, pero fallan con lo minoritario. Y esos extremos, esos casos raros, suelen ser los más vulnerables.
Por eso su enfoque es claro detectar desde el inicio cuándo una situación no debe ir a la IA, sino a una persona.
"Las minorías suelen ser los extremos más vulnerables"
Y en esos casos, la tecnología debe ceder el paso a la empatía, al juicio, a la ética humana.
La Generalitat prepara también un buscador tipo Google para la Administración. Imagina poder hacer trámites públicos solo con tu voz, validados en tiempo real. La idea no es impresionar, sino ayudar.
"La idea base es facilitar la vida de los ciudadanos"
.Y si eso suena ambicioso, también lo es el compromiso con la colaboración público-privada, con el control del corpus y de la tarea.
"Controlo el corpus, controlo la tarea" - Miralles
Innovar sin romper lo esencial
El debate dejó claro algo que a veces olvidamos la regulación no es el enemigo de la innovación. Al contrario. La normativa no está reñida con la innovación, la guía. Sin marcos éticos, la tecnología puede avanzar rápido, pero en la dirección equivocada.
Barcelona, con Decidim y su red de más de 60 ciudades, apuesta por lo abierto, lo compartido, lo colectivo. La tecnología no debe ser un muro, sino un puente. Y si hay algo que este evento demostró, es que la inteligencia artificial no se trata de máquinas más listas, sino de sociedades más conscientes.
Porque al final, como dijo alguien entre los asistentes, la verdadera inteligencia no está en los algoritmos. Está en saber qué no hacer con ellos.