España da otro paso en la carrera por poner límites a la inteligencia artificial. El Consejo de Ministros aprobó este martes el proyecto de Ley Orgánica para el buen uso y la gobernanza de la inteligencia artificial, un texto que toma como referencia el Reglamento Europeo de IA.
No hablamos de una norma menor ni de un ajuste técnico. La propuesta entra en terrenos muy concretos y sensibles, desde imágenes sexuales falsas hasta sistemas que influyen en decisiones humanas con técnicas subliminales, pasando por biometría, empleo, educación o justicia.
"Creo que hemos dado un salto muy importante en un debate que es absolutamente civilizatorio. Estamos hablando de avanzar o retroceder." - Óscar López, ministro de Transformación Digital y Función Pública
El alcance de las sanciones da una medida clara de la ambición del texto. La ley prevé multas de hasta 35 millones de euros o el 7 % del volumen de negocio para la comercialización y uso de sistemas prohibidos.
La norma castiga con dureza los usos que cruza líneas rojas
Entre esos sistemas vetados figuran la generación de imágenes falsas de contenido sexual, la explotación de menores o de personas con discapacidad, la clasificación biométrica indiscriminada por raza, credo u orientación y el uso de técnicas subliminales para manipular decisiones.
Aquí aparece una idea de fondo que ya marca el debate europeo. La inteligencia artificial no solo plantea preguntas sobre eficiencia o automatización, también obliga a decidir qué prácticas una sociedad acepta y cuáles considera inadmisibles aunque funcionen.
Para los sistemas de alto riesgo que exigen supervisión humana, el castigo también sube con fuerza. Las sanciones pueden llegar a 15 millones de euros o al 3 % del volumen de negocio cuando esa revisión obligatoria no exista.
Un ejemplo especialmente delicado afecta a la justicia. La norma cita el uso de inteligencia artificial para elaborar borradores de sentencias judiciales sin revisión de un juez, una frontera que ilustra hasta dónde puede llegar la herramienta y dónde empieza la responsabilidad humana.
La administración tendrá que decir qué inteligencia artificial usa
Además de prohibir y sancionar, el proyecto intenta ordenar el uso interno de estas herramientas. El texto final incluye un inventario de sistemas de inteligencia artificial utilizados en procedimientos administrativos y crea la figura del delegado de inteligencia artificial en el sector público estatal.
Ese delegado coordinará la aplicación normativa, mientras un Real Decreto regulará los detalles de estas dos piezas. No es un detalle burocrático sin más. Saber qué sistemas usa la administración y quién responde por ellos cambia la trazabilidad de decisiones que afectan a miles de ciudadanos.
Las infracciones leves, por su parte, quedan bastante por debajo de los grandes castigos, aunque siguen siendo cuantiosas. La ley contempla multas de hasta 500.000 euros o el 0,5 % del volumen de negocio, con margen para que las autoridades ajusten la sanción según intencionalidad o reincidencia.
La supervisión quedará repartida según el terreno donde actúe cada sistema
No toda la vigilancia recaerá en un único organismo. Los productos que ya cuentan con autoridades específicas, como juguetes, vehículos o productos sanitarios, seguirán bajo ese paraguas, mientras otros ámbitos se repartirán entre varios supervisores.
Así, los sistemas vinculados a empleo, biometría o educación quedarán bajo la competencia de la Agencia Española de Supervisión de la Inteligencia Artificial, la Agencia Española de Protección de Datos y el Consejo General del Poder Judicial según el campo de aplicación.
Un año después de que el anteproyecto pasara por información pública y por la revisión de órganos como el Consejo General del Poder Judicial, el Gobierno lleva al Consejo de Ministros un texto que intenta poner orden justo donde más aprieta la contradicción. La IA promete ahorrar tiempo, pero la ley recuerda que hay decisiones cuyo coste no puede medirse solo en segundos.