Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
Mañana, la Comisión Europea empezará a aplicar las primeras obligaciones de transparencia de la Ley de Inteligencia Artificial y la novedad no es menor.
Desde ese momento, chatbots y otros sistemas conversacionales tendrán que avisar de que al otro lado no hay una persona. También deberán quedar identificados los contenidos generados o manipulados con inteligencia artificial, incluidos los deepfakes.
Bruselas asume un control que hasta ahora no había ejercido
Por primera vez, la Comisión Europea asumirá competencias directas para velar por el cumplimiento de esta ley.
Ese cambio importa porque desplaza la vigilancia desde la pura recomendación política hacia la supervisión efectiva. La entrada en vigor de estas medidas permite además que Bruselas empiece a controlar los modelos de inteligencia artificial de propósito general.
Henna Virkkunen, vicepresidenta del Ejecutivo comunitario encargada de Soberanía Tecnológica, Seguridad y Democracia, situó ahí la doble cara del momento.
"La inteligencia artificial es una tecnología transformadora que puede aportar beneficios extraordinarios a nuestros ciudadanos y a nuestras empresas. Pero también estamos viendo que puede causar perjuicios si no se diseña y utiliza adecuadamente, y que los modelos más avanzados plantean riesgos de una magnitud completamente nueva". - Henna Virkkunen, vicepresidenta del Ejecutivo comunitario encargada de Soberanía Tecnológica, Seguridad y Democracia
No hablamos solo de una etiqueta en pantalla o de un aviso al abrir una aplicación. La ley entra en un terreno muy concreto, el de distinguir qué parte de lo que vemos, oímos o leemos nace de una persona y cuál ha sido fabricada o alterada por un sistema automático.
Las herramientas deberán dejar rastro cuando alteren imágenes, audio o texto
Las herramientas capaces de crear imágenes, vídeos, audios o textos tendrán que incorporar marcas que permitan reconocer esas producciones. En el uso profesional, además, habrá que indicar de forma clara que ese material ha sido alterado mediante inteligencia artificial.
Ahí entra una zona especialmente sensible, la de los contenidos sintéticos que circulan con apariencia de documento real. En las últimas semanas, Bruselas ya había afinado el debate sobre el etiquetado de deepfakes y sobre la obligación de avisar cuando una máquina participa en la conversación.
La Oficina Europea de IA podrá pedir datos y restringir sistemas
Además de supervisar, la Oficina Europea de IA podrá requerir información a las empresas y acceder a los sistemas para evaluarlos.
Si detecta incumplimientos, tendrá capacidad para ordenar medidas correctoras e incluso restringir la disponibilidad de esas herramientas. Esa facultad convierte la transparencia en una exigencia comprobable, no en una promesa voluntaria.
Mientras tanto, el control no quedará concentrado en un solo despacho de Bruselas.
La vigilancia será compartida entre la Oficina Europea de IA y las autoridades nacionales. La primera se ocupará de los proveedores y de los sistemas que entren en el ámbito de la Comisión, mientras los Estados miembros controlarán el resto de herramientas desplegadas en su territorio.
Esa arquitectura reparte funciones, pero también deja una imagen bastante clara del problema que intenta resolver Europa. Si un texto, una voz o un vídeo puede imitar la realidad, mañana empezará a ser obligatorio decirlo.