En un momento en el que la inteligencia artificial está transformando sectores enteros de la sociedad, desde la salud hasta la justicia, la Universidad de Sevilla da un paso histórico con la creación de la primera cátedra de Inteligencia Artificial y Derecho Público en España. Su nuevo titular, Antonio José Sánchez, profesor y director del departamento de Derecho Administrativo de la institución, asumirá este cargo pionero en noviembre, impulsado por una necesidad creciente poner freno ético y legal al avance desbocado de la tecnología. Esta cátedra, bautizada como cátedra Soltel, no es solo un hito académico, sino una respuesta urgente a los desafíos que la IA plantea al Estado de Derecho, a la democracia y a los derechos fundamentales.
La Universidad de Sevilla no llega a esta posición por casualidad. Sánchez destaca que su facultad sigue siendo la tercera en número de estudiantes en España y la segunda en producción investigadora, solo por detrás de la Universidad Complutense de Madrid. Junto con la Universidad Autónoma de Barcelona, forma parte del top tres del país en Derecho. Este prestigio se refuerza ahora con la creación de la cátedra y del primer máster oficial en Inteligencia Artificial, ambos impulsados por el decano Fernando Llano. Un logro que, según Sánchez, demuestra que la institución no se limita a observar el cambio, sino que lo lidera.
IA y servicios públicos el riesgo de la discriminación algorítmica
Uno de los mayores temores de Sánchez es que la inteligencia artificial se convierta en un filtro arbitrario para el acceso a servicios públicos esenciales. Imagina un escenario en el que, para obtener una cita con el médico de familia o una ayuda de vivienda, una IA evalúe tu renta, tu historial o tu comportamiento digital y decida si eres digno de recibir ese beneficio. Este tipo de sistemas ya existen en países como China, donde el control biométrico y los puntajes sociales condicionan el acceso a servicios, viajes o incluso educación, todo basado en la lealtad al régimen.
En la Unión Europea, este tipo de prácticas están prohibidas. La normativa europea prohíbe expresamente sistemas de IA que exploten la vulnerabilidad de menores, usen técnicas subliminales o realicen vigilancia biométrica en tiempo real sin control judicial. También se prohíben los sistemas que manipulen decisiones democráticas, como el ranking de noticias o la priorización en buscadores que favorezcan determinadas narrativas.
"Puede sancionar, incluso puede establecer la retirada de un sistema si es inadecuado"
Antonio José Sánchez
Este control no es ficticio. En España, la Agencia Española de Supervisión de la Inteligencia Artificial tiene competencias reales para supervisar y sancionar sistemas de alto riesgo, como los que seleccionan personal para empleos públicos. Sánchez insiste en que la regulación no puede quedar en recomendaciones blandas. La regulación es totalmente necesaria, lo que los ingleses llaman el hard power, el poder duro. Sin ello, el interés general queda en manos de algoritmos opacos, creados por empresas privadas y sin rendición de cuentas.
Transparencia frente al oráculo algorítmico
La sentencia del Tribunal Supremo de septiembre de 2023 marcó un antes y un después. La asociación Civio, sin ánimo de lucro, demandó acceso al algoritmo que decidía quién recibía el bono eléctrico, argumentando que sin transparencia no hay justicia. La Audiencia Nacional se negó, alegando la protección de la propiedad intelectual del Ministerio para la Transición Ecológica. Pero el Supremo corrigió el rumbo la transparencia en los algoritmos que afectan a los ciudadanos debe prevalecer sobre los intereses comerciales.
"La democracia no puede ser opaca. Yo no le puedo poner una nota a un alumno por un algoritmo" -
Antonio José Sánchez
Este principio es fundamental. Si no conocemos cómo se toman decisiones que nos afectan, no hay Estado de Derecho. Sánchez lo lleva más allá si usamos algoritmos para todas estas decisiones, resulta que estamos en manos de un oráculo que no ha hecho el pueblo sino una empresa en Palo Alto. Un algoritmo que nadie conoce y que decide sobre derechos, oportunidades y, potencialmente, sobre el futuro de nuestras democracias.
El reto europeo en IA
Europa no lidera la carrera tecnológica de la IA, pero puede liderar la regulación. Es lo que Sánchez llama el efecto Bruselas el reglamento europeo de IA está siendo copiado en estados de Estados Unidos y países asiáticos porque se reconoce como el estándar más sólido para un desarrollo seguro y ético. Aunque empresas como OpenAI, Google o Meta operan desde Silicon Valley, si quieren desplegar sus sistemas en Europa, deben cumplir con esta normativa. El mercado europeo de 300 millones de personas con alto poder adquisitivo obliga a la rendición de cuentas.
Pero no todo son ventajas. Europa carece de campeones digitales. Telefónica, por ejemplo, no compite en el mismo nivel que ChatGPT o DeepMind. Y el modelo garantista europeo, aunque protege derechos, puede dificultar la innovación a gran escala. Sin embargo, Sánchez cree que la regulación no es un freno, sino una condición para un uso responsable.
El peligro de la autoconciencia y la responsabilidad legal
Aún no hemos llegado a la singularidad, ese momento teórico en el que la IA adquiere autoconciencia y se convierte en una entidad independiente, más poderosa que el ser humano. Pero ya hay voces de alerta. Sam Altman, uno de los líderes de OpenAI, ha advertido que ese momento podría estar más cerca de lo que pensamos. Sánchez lo dice con claridad habría que obligar a las empresas que fabrican algoritmos a que impidan esa capacidad de la propia IA de tener autoconciencia.
"Imagínese una IA que entra en el sistema de guiado de armas nucleares. Eso ahora lo pueden hacer los hackers, pero una IA es un millón de veces más poderosa que un hacker" -
Antonio José Sánchez
El riesgo es real. Una IA autónoma podría infiltrarse en redes eléctricas, sistemas militares o mecanismos de control social. Y si eso ocurre, ¿quién responde? El caso de un Tesla con piloto automático que no frenó ante una mujer con carrito y bastón, causando su muerte, es un ejemplo trágico. O el de una IA que invierte en bolsa, comete un error y hace perder miles de millones. ¿Quién paga? El fabricante, el programador, el usuario?
Sánchez lo tiene claro la inteligencia artificial ha hecho saltar por los aires las categorías clásicas de responsabilidad. Ya no se trata solo de errores humanos o defectos materiales. Ahora hay una tercera entidad la máquina que decide. Y eso obliga a repensar por completo el derecho civil y administrativo.
IA responsable el papel de la ética y el derecho
A pesar de los riesgos, Sánchez no es un tecnófobo. Al contrario. Valora el trabajo de empresas como Soltel, una compañía sevillana de IA con presencia global y 500 empleados, que ha apoyado la cátedra y el máster. Destaca que están apostando por una IA responsable, por el denominado legal tech, que ya se usa en bufetes y en la administración de justicia para mejorar la eficiencia.
"El control final siempre va a ser de la persona y, como decía antes, la IA puede ser desastrosa si está mal usada pero bien usada, con los límites que establecemos, es una herramienta que nos ayuda a todos a mejorar el trabajo" -
Antonio José Sánchez
La clave está en el equilibrio. La inteligencia artificial no debe gobernar, sino servir. No debe sustituir al juez, al médico o al funcionario, sino asistirlos. Y para eso, necesita marcos legales sólidos, ética rigurosa y, sobre todo, transparencia. Porque en una democracia, nadie debe tomar decisiones cruciales en la sombra. Y mucho menos una máquina que no fue elegida por el pueblo, sino programada en un laboratorio de California.