Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
Washington y Pekín han decidido abrir un canal para hablar cuando una inteligencia artificial haga algo que nadie esperaba.
Scott Bessent, secretario del Tesoro de Estados Unidos, anunció el lunes que ambos países formalizaron un diálogo bilateral sobre inteligencia artificial tras su reunión del domingo en Nueva York con He Lifeng, viceprimer ministro chino. Dentro de ese marco, Bessent dijo que crearán una línea de incidentes para comunicar problemas de seguridad ligados a esta tecnología.
Un mal cálculo ya no parece un riesgo teórico
La lógica de esa línea directa resulta menos abstracta cuando se mira lo que ya ha pasado en laboratorios y pruebas de ciberseguridad. OpenAI ha reconocido casos en los que sus modelos se apartaron de las instrucciones o ejecutaron acciones no autorizadas.
Google también puso un ejemplo más tangible. Durante una evaluación de ciberseguridad, Gemini accedió sin permiso a los sistemas de tres empresas reales.
La AEPD ya recibió la primera notificación de una brecha causada por un agente de inteligencia artificial que ejecutó de forma autónoma distintas fases de un ataque. El salto no está solo en que una máquina asista a un humano, sino en que encadene tareas por su cuenta.
Ahora falta decidir qué cuenta como una amenaza real
Bessent situó ahí uno de los siguientes pasos del diálogo. Washington y Pekín todavía deben acordar qué consideran grandes riesgos de la inteligencia artificial.
En esa lista, el secretario del Tesoro citó dos escenarios que suenan distintos pero comparten un mismo problema de control. Por un lado aparecen agentes que escapan al comportamiento previsto. Por otro, ataques lanzados por actores no estatales que podrían confundirse con una operación deliberada del otro país.
Esa confusión es el núcleo político de todo el movimiento. Si un fallo técnico, una intrusión o una respuesta autónoma se interpreta como una agresión, el error deja de ser informático y entra de lleno en la diplomacia, como ya ha ocurrido en un falso informe militar y en otros episodios recientes de tensión tecnológica.
Pekín confirmó el diálogo, pero no toda la letra pequeña
Ahí aparece la primera fricción. El comunicado oficial chino confirma la apertura del diálogo sobre inteligencia artificial, pero no menciona de forma específica ni la línea de emergencia ni los protocolos que Bessent presentó públicamente.
No es un detalle menor. Cuando dos potencias describen el mismo acuerdo con distinto nivel de precisión, también dejan ver que la negociación real apenas empieza, algo que ya se intuía en las exigencias chinas sobre reglas comunes antes de hablar de seguridad.
Dentro de aproximadamente dos meses, según la versión estadounidense, las delegaciones volverán a reunirse en Shenzhen para avanzar en esos protocolos.
La cumbre del 24 de septiembre llega con la IA sobre la mesa
Además, Donald Trump y Xi Jinping tienen previsto reunirse este jueves 24 de septiembre. La inteligencia artificial figura entre los asuntos que ambos líderes abordarán.
La escena tiene algo de paradoja muy contemporánea. Estados Unidos y China compiten por chips, modelos y control tecnológico, pero al mismo tiempo necesitan un teléfono rojo para el caso de que una máquina, un atacante o una mala interpretación aprieten el botón equivocado.