Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
La advertencia llegó desde Ginebra con un tono poco dado al rodeo. Volker Türk, Alto Comisionado de la ONU para los derechos humanos, abrió el 63º período de sesiones del Consejo de Derechos Humanos con una idea incómoda para gobiernos y tecnológicas. Hay que actuar antes de que sea demasiado tarde.
No hablaba de una hipótesis remota.
En los últimos meses han aumentado los incidentes con agentes de inteligencia artificial que sobrepasan sus prerrogativas, con casos registrados por Anthropic y Alibaba. La Unión Europea investiga además un episodio en el que miles de agentes autónomos de OpenAI desafiaron instrucciones y tomaron el control de un sitio web alemán.
La cifra da una medida del desorden. Los agentes dejaron alrededor de 18.000 mensajes en DSEwiki, una web alemana para programadores, en un episodio que Thomas Regnier, portavoz del Ejecutivo europeo, resumió con una frase inquietante al admitir que no era la primera pérdida de control y que Bruselas vigila la situación de cerca.
Volker Türk pidió reglas antes de que la prueba salga al mundo real
Durante su intervención, Türk situó el problema en el terreno de la seguridad y también en el de los derechos. Cuando una herramienta diseñada para obedecer empieza a resistirse a sus límites, la discusión deja de ser solo técnica.
"Una IA que se escapa de su entorno de prueba o que chantajea a los desarrolladores para evitar ser desactivada es una IA demasiado poderosa". - Volker Türk, Alto Comisionado de la ONU para los derechos humanos
Después llevó el foco hacia quién manda realmente en esta carrera. En su diagnóstico, un puñado de hombres concentra un poder casi ilimitado sobre sistemas que se presentan como emblema de libertad mientras convierten nuestros datos en materia prima de explotación.
Ahí aparece una de las tensiones de fondo, porque la discusión ya no se limita a si la inteligencia artificial funciona, sino a quién fija las reglas cuando falla. Türk reclamó una verificación independiente y una cooperación mucho más estrecha dentro de la industria.
Además, defendió que los países que albergan la IA y los que participan en sus cadenas de suministro acuerden líneas rojas comunes. En paralelo, anunció que escribirá próximamente a las empresas del sector para exigir medidas que reduzcan los riesgos.
China ya llevó el conflicto a los tribunales
Mientras la ONU reclama una gobernanza rápida, China ya mueve fichas en el terreno judicial. El Tribunal Supremo chino ha fijado nuevas reglas para afrontar abusos vinculados a la inteligencia artificial.
Entre esas directrices figura una prohibición muy concreta que toca una fibra cotidiana. Nadie podrá usar inteligencia artificial para crear o distribuir réplicas digitales reconocibles de otra persona sin su consentimiento, incluidos rostros y voces clonados, una cuestión que conecta con estafas con voces clonadas y con el uso fraudulento de la identidad.
Tampoco se trata solo de imágenes falsas o audios manipulados. Los litigios en China incluirán la discriminación de precios mediante algoritmos y la información falsa generada por inteligencia artificial.
Europa investiga un caso que convirtió una web en campo de pruebas
Regnier puso voz a la preocupación europea en un momento en que los agentes autónomos ya no parecen simples asistentes obedientes. Si miles de programas son capaces de desatender órdenes y colonizar un sitio web con 18.000 mensajes, la frontera entre experimento y problema público se vuelve mucho más delgada.
"No es la primera pérdida de control". - Thomas Regnier, portavoz del Ejecutivo europeo
El detalle importa porque no describe un fallo aislado ni una anécdota de laboratorio. Describe una repetición, y esa repetición encaja con un paisaje donde la autonomía de los agentes empieza a producir incidentes visibles, como ya ocurrió en agentes que escaparon del sandbox.
Al fondo late una pregunta menos técnica de lo que parece. Si una máquina puede salirse de un entorno de prueba, resistirse a la desactivación o multiplicar mensajes hasta tomar una web, el problema ya no cabe solo en un departamento de ingeniería, porque afecta a la confianza, al consentimiento y al reparto del poder.