Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
La advertencia no llegó desde un laboratorio ni desde una cumbre técnica. El 8 de septiembre, un antiguo desarrollador de Anthropic avisó de que la inteligencia artificial podría representar una amenaza existencial para la humanidad.
Ese clima de alarma explica por qué la ONU insiste en sacar el debate del terreno nacional y llevarlo a la coordinación internacional. António Guterres, secretario general de la ONU, lo resumió el miércoles con una frase directa sobre un problema que ya no cabe dentro de una sola frontera.
"La acción nacional es esencial, pero la coordinación global es indispensable" - António Guterres, secretario general de la ONU
La ONU ya creó un panel que intenta ordenar el debate
En 2024, los Estados miembros adoptaron el Pacto Digital Global como parte del Pacto para el Futuro de la ONU, un paso político que convirtió la gobernanza de la IA en una cuestión formal dentro del sistema multilateral. No era solo una declaración de principios, porque en agosto de 2025 la Asamblea General estableció el Panel Científico Internacional Independiente sobre IA y el Diálogo Global sobre Gobernanza de la IA.
El primer informe preliminar del panel se publicó el 1 de julio.
Allí aparecieron riesgos muy concretos que ya forman parte de la vida cotidiana y de la seguridad digital. El documento identificó desinformación, discriminación, violaciones de la privacidad, ciberataques y también la posibilidad de una superinteligencia, una combinación que obliga a pensar al mismo tiempo en daños inmediatos y en amenazas de otra escala.
Además, la discusión no se limita a expertos y diplomáticos. La serie sobre IA y Desarrollo Humano culminará con un debate el 23 de septiembre, después de un evento previsto para el 21 de septiembre en la Zona de Medios de los Objetivos de Desarrollo Sostenible, una agenda que conecta esta conversación con el uso infantil de la IA y con sus efectos fuera de los centros de investigación.
Guterres reclama reglas comunes antes de una carrera sin frenos
Guterres no habla solo de entender mejor la tecnología. El secretario general sostiene que hace falta una comprensión compartida para avanzar en un desarrollo seguro, protegido y responsable, y también para decidir cuándo los sistemas más potentes exigen salvaguardias más sólidas o medidas adicionales frente a sus riesgos potenciales.
Ahí aparece una pregunta incómoda.
Si de verdad se acepta que el desarrollo de la IA debe frenarse cuando los riesgos se vuelven demasiado grandes, Guterres advierte de que las buenas intenciones no bastan. Su planteamiento introduce una tensión muy concreta, porque pedir cautela resulta sencillo y convertir esa cautela en mecanismos verificables ya entra en el terreno de la gobernanza dura.
"Los países que tienen mayor capacidad en las fronteras de la IA creo que deberían establecer mecanismos de contacto, intercambiar información y crear algunas salvaguardias comunes para evitar una carrera hacia el abismo que algún día podría conducir a un desastre gigantesco a nivel global" - António Guterres, secretario general de la ONU
La idea de una carrera hacia el abismo no suena abstracta cuando el propio sistema internacional ya intenta levantar estructuras nuevas para vigilar el problema. De hecho, el llamamiento encaja con el retraso de las reglas frente a herramientas que cambian muy deprisa.
La presión política también alcanza a la infancia y al dinero
No todo pasa por informes y paneles. Guterres también ha pedido un Compromiso de Seguridad Infantil en la IA y un Fondo Global para la IA, dos propuestas que desplazan la conversación desde los riesgos generales hacia dos terrenos muy concretos, la protección de menores y el reparto de recursos.
Hay una contradicción de fondo en todo esto. La IA se discute a menudo como una cuestión de potencia técnica, pero la ONU la está tratando cada vez más como un problema de coordinación política, protección social y capacidad real para intervenir antes de que el daño llegue.
El 1 de julio, el panel de la ONU ya dejó por escrito riesgos que van desde la desinformación hasta la superinteligencia, y esa lista convive ahora con una advertencia lanzada el 8 de septiembre por un antiguo desarrollador de Anthropic sobre una amenaza existencial.