La madrugada de este miércoles ha traído una definición clara sobre los límites éticos de la tecnología en Europa. El Parlamento Europeo y el Consejo han cerrado un acuerdo que prohíbe explícitamente la creación de imágenes sexuales con inteligencia artificial sin consentimiento.
Esta decisión introduce una nueva disposición en la ley de IA vigente desde agosto de 2024. La norma veta cualquier práctica relacionada con la generación de contenido íntimo no consentido o material de abuso sexual infantil.
La UE blinda la privacidad frente a los algoritmos generativos
Ibán García del Blanco, eurodiputado del PSOE, ya había advertido sobre la dualidad de esta tecnología. Para él, la inteligencia artificial representa una gran evolución cuyo impacto depende exclusivamente de su uso final.
El legislador español definió los llamados riesgos inaceptables con ejemplos concretos. Prohibió la identificación biométrica remota y el reconocimiento facial basado en rasgos como la raza o el color de la piel.
"Lo que se llama el social scoring, que es una puntuación ciudadana en función de cómo nos comportamos en sociedad, queda prohibido" - Ibán García del Blanco, eurodiputado del PSOE
La legislación también aborda ahora los contenidos sexuales creados con IA sin permiso. Esta medida cierra un vacío legal que preocupaba a defensores de derechos digitales y víctimas de violencia de género.
Las empresas ganan tiempo para adaptar sus sistemas de alto riesgo
Los plazos de cumplimiento se han ajustado para facilitar la transición industrial. Los sistemas de IA de alto riesgo autónomos deberán cumplir la normativa el 2 de diciembre de 2027.
Los dispositivos que integren esta tecnología, como los equipos médicos, tendrán hasta el 2 de agosto de 2028. Este retraso busca evitar la duplicidad normativa en productos que ya cuentan con reglas de seguridad específicas.
Ascensores, juguetes, barcos y equipamiento hospitalario quedan exentos de cumplir dos marcos legales simultáneos. Las directrices amplían además las exenciones que antes beneficiaban solo a pymes.
Ahora las compañías de mediana capitalización también acceden a estos beneficios. Se ha pospuesto hasta agosto del próximo año la fecha límite para implementar los entornos nacionales de pruebas.
Bruselas centraliza la vigilancia de los modelos generales
La Oficina Europea de IA asumirá la supervisión de los modelos de propósito general. Su atención se centrará especialmente cuando el creador del modelo base coincida con el desarrollador del sistema final.
Las autoridades nacionales mantendrán su competencia en sectores estratégicos. El control de fronteras, la justicia, la policía y el sector financiero seguirán bajo jurisdicción local.
Todas las empresas deberán registrar sus sistemas en una base de datos europea. Esta obligación persiste incluso si consideran que sus herramientas no son de alto riesgo.
El uso de datos personales delicados para corregir sesgos algorítmicos queda restringido. Solo será posible bajo el criterio de estricta necesidad y cuando no exista otra alternativa técnica.
"Este acuerdo supone un importante apoyo para nuestras empresas y garantiza la seguridad jurídica" - Marilena Raouna, viceministra de Asuntos Europeos de Chipre
Marilena Raouna, viceministra de Asuntos Europeos de Chipre, destacó que el pacto refuerza la soberanía digital de la Unión. Subrayó la capacidad institucional para actuar con rapidez dentro del plazo establecido.
La protección de la infancia frente a los riesgos de la IA se consolida como prioridad. El texto cumple con los compromisos de la hoja de ruta Una Europa, un mercado acordada la semana pasada.
La entrada en vigor de la ley en agosto de 2024 marcó el inicio de este proceso regulatorio. Hoy el mapa legal europeo distingue entre innovación permitida y prácticas vetadas por daños sociales.