Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
La escena tiene algo incómodo y revelador al mismo tiempo. Sam Altman, consejero delegado de OpenAI, y Dario Amodei, consejero delegado de Anthropic, acudieron al Consejo de Seguridad de la ONU para pedir freno, controles y normas internacionales sobre una tecnología que sus propias empresas empujan cada día.
La carrera por la IA llegó al Consejo que trata guerras y sanciones
No suele ocurrir que los máximos responsables de dos laboratorios punteros reclamen límites ante el órgano que la ONU reserva para las amenazas más graves. Altman y Amodei pidieron contener el desarrollo de la inteligencia artificial para reducir sus peligros y evitar que alguien concentre un poder total sobre los modelos.
Michael Kratsios, asistente presidencial y director de la Oficina de Política de Ciencia y Tecnología de la Casa Blanca, respondió en sentido contrario. Para Washington, el avance de la inteligencia artificial no justifica detener su desarrollo ni someterla a nuevas estructuras de gobernanza mundial.
Estados Unidos rechazó de forma explícita cualquier esquema globalista de control de la superinteligencia.
Esa fricción sitúa el debate en un terreno menos técnico de lo que parece. Ya no discuten solo ingenieros o empresarios, también lo hacen diplomáticos, gobiernos y organismos que miden el riesgo con la escala de la seguridad internacional.
Altman defendió una herramienta ambiciosa, pero pidió evitar los extremos
Sam Altman, consejero delegado de OpenAI, dibujó dos posibles paisajes para la IA, uno ligado a la creatividad y el descubrimiento y otro marcado por la agitación y el caos. En su intervención comparó este momento con el Renacimiento, una época en la que nuevas herramientas, ideas e instituciones ampliaron lo que las personas creían posible.
"La IA puede dar lugar a una nueva era del Renacimiento para la creatividad y el descubrimiento, o bien a una nueva Revolución Industrial marcada por la agitación y el caos. El Renacimiento fue una época en la que nuevas herramientas, ideas e instituciones ampliaron los límites de lo que las personas creían posible. La IA puede desempeñar ese mismo papel en nuestra época". - Sam Altman, consejero delegado de OpenAI
Altman no planteó la discusión como una pelea entre humanos y máquinas. También sostuvo que la historia del progreso humano habla de herramientas que amplían la capacidad de acción de las personas, no de instrumentos que la sustituyen.
Después lanzó un aviso político nada menor. Calificó el catastrofismo de trampa y defendió que dejarse arrastrar por los extremos no ayudará a resolver los desafíos que ya están sobre la mesa.
Ahí aparece una contradicción difícil de ignorar. Quien pide evitar los extremos comparece a la vez ante el principal foro de seguridad del planeta para advertir de los riesgos de una tecnología que su propia empresa acelera.
Amodei llevó el foco hacia el terrorismo y las armas biológicas
Dario Amodei, consejero delegado de Anthropic, aterrizó el riesgo en escenarios concretos. Su preocupación se centró en el uso indebido de los modelos para terrorismo, creación de armas biológicas y pérdida de control sobre sistemas cada vez más capaces.
"Estas cuestiones tienen un alcance global y conciernen a toda la humanidad. Son lo suficientemente graves como para considerar que constituyen temas importantes para este Consejo". - Dario Amodei, consejero delegado de Anthropic
Amodei pidió tres capas de vigilancia que apuntan a actores distintos. Reclamó evaluadores externos para las empresas, estándares comunes para la industria y normas internacionales para los gobiernos y los organismos multilaterales.
riesgo biológico en Claude no es una expresión abstracta.
Su diagnóstico fue todavía más rotundo cuando definió la inteligencia artificial como el principal asunto de seguridad global al que se enfrenta hoy el mundo. La frase impresiona menos por el dramatismo que por el lugar en que fue pronunciada, una sala acostumbrada a hablar de conflictos armados, vetos y equilibrios de poder.
La ONU y China colocaron la rendición de cuentas en el centro
António Guterres, secretario general de la ONU, desplazó la atención desde la máquina hacia la responsabilidad humana. A su juicio, el problema no está en la nueva tecnología, sino en una tecnología sin rendición de cuentas y en decisiones de vida o muerte delegadas en sistemas automáticos.
"el peligro no reside en la nueva tecnología. El peligro reside en la tecnología sin rendición de cuentas. Las decisiones de vida o muerte jamás deben confiarse a las máquinas. Los robots asesinos no deben tener cabida en nuestro futuro". - António Guterres, secretario general de la ONU
Fu Cong, representante permanente de China, también reclamó responsabilidad a las grandes empresas y pidió reforzar la cooperación internacional. Además dejó una línea de reparto muy clara al recordar que la IA pertenece a toda la humanidad y no debe convertirse en un juego reservado a países y personas ricos.
Esa idea enlaza con una discusión más amplia sobre quién fija las reglas y quién queda fuera, una tensión que ya asomaba en las advertencias de la ONU sobre sistemas que avanzan más rápido que los mecanismos de control.
Al final, la imagen más elocuente no sale de un laboratorio, sino de una mesa diplomática. Los jefes de OpenAI y Anthropic pidieron frenar para no perder el control, mientras Estados Unidos rechazó una gobernanza mundial y China reclamó que la inteligencia artificial no quede en manos de los ricos.