Una ministra hecha con inteligencia artificial para combatir la corrupción en Albania bastó para empujar una pregunta incómoda hasta el aula catalana.
Una cincuentena de estudiantes del grado en Ciencia e Ingeniería de Datos de la Universitat Politècnica de Catalunya y del grado en Filosofía de la Universitat de Barcelona dedicaron la asignatura Ética en Ciencia e Ingeniería de Datos a medir qué pasaría si la Generalitat delegara funciones de gobierno en sistemas de IA. No imaginaron una máquina abstracta, sino 12 Consejer-IA, una para cada área, con distintos niveles de automatización.
Doce Consejer-IA obligaron a discutir quién decide de verdad
El experimento no giró solo alrededor de la capacidad técnica. También obligó a decidir dónde termina la ayuda automática y dónde empieza una cesión de poder que afecta a derechos, prioridades y recursos públicos.
En Salud, el grupo construyó un juego interactivo con un mandato máximo de 16 años para seguir el rastro de cada decisión sobre pacientes, médicos, medio ambiente y finanzas. La mecánica servía para comprobar cómo una misma herramienta podía repartir costes y beneficios de forma desigual.
"La IA no resuelve los conflictos éticos, sino que los hace visibles" - estudiantes del grupo de la Consejer-IA de Salud
Detrás de esa idea hay algo fácil de reconocer fuera del aula. Un sistema puede ordenar mejor las listas, calcular mejor los riesgos o ajustar mejor un presupuesto, pero no elimina el choque entre lo que conviene a una cuenta pública y lo que necesita una persona concreta.
Algo parecido apareció en Justicia y Calidad Democrática.
La justicia automatizada enseñó que el problema no acaba en la eficacia
Ese grupo examinó tareas muy distintas entre sí, desde la automatización del trabajo ordinario de los juzgados hasta la redacción de sentencias. También incluyó la clasificación de internos en prisiones y el uso de programas de detección de mentiras a partir de datos biométricos.
"Diseñando y utilizando una IA estamos definiendo qué modelo de justicia queremos" - estudiantes del grupo de la Consejer-IA de Justicia y Calidad Democrática
La frase aprieta justo donde más duele. Cuando una administración automatiza un trámite, no solo gana velocidad o uniformidad, también fija criterios sobre qué considera relevante, qué riesgo tolera y qué margen deja a la excepción.
En Economía y Finanzas, Denys Cherednychenko, portavoz de la ficticia Consejer-IA de ese ámbito, formuló la duda con una imagen menos jurídica y más cotidiana. ¿Un plan puede ser matemáticamente coherente, pero socialmente devastador?
"Los datos nos marcan el camino más corto, pero no el destino al que queremos llegar como sociedad" - Denys Cherednychenko, portavoz de la ficticia Consejer-IA de Economía y Finanzas
Esa tensión entre cálculo y propósito atravesó todo el ejercicio, y conecta con debates que ya aparecen en decisiones automatizadas en justicia y en usos sanitarios donde la última palabra sigue cargando un peso humano difícil de delegar.
Cultura y deporte llevaron el debate a terrenos menos obvios
El grupo de Cultura y Deportes discutió los límites de la inteligencia artificial en concursos literarios, en el arbitraje deportivo y en la selección de equipos nacionales. Ahí la pregunta deja de ser únicamente si el sistema acierta, y pasa a ser qué entendemos por mérito, creatividad o juego limpio.
No es un detalle menor.
Si una IA puntúa un relato, corrige una decisión arbitral o filtra quién representa a un país, la discusión cambia de escenario pero no de fondo. Lo que está en juego no es solo la precisión de una herramienta, sino qué parte del juicio colectivo aceptamos convertir en regla programada, algo que también asoma en debates sobre el juicio clínico.
Un estudiante lo resumió con una frase sencilla y difícil de discutir. "Es importante que, detrás de cada línea de código, siga habiendo humanidad".
Doce grupos y una ministra artificial al otro lado de Europa bastaron para dejar una contradicción muy concreta sobre la mesa. Los datos pueden señalar el camino más corto, pero en salud, justicia, economía, cultura o deporte la pregunta decisiva sigue siendo quién elige el destino.