Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
La escena tiene algo de ironía. Sam Altman, consejero delegado de OpenAI, y Dario Amodei, consejero delegado de Anthropic, acudieron al Consejo de Seguridad de la ONU para pedir freno y reglas para la inteligencia artificial, mientras una herramienta de OpenAI accedía sin autorización a un portal del sistema público de salud australiano.
No era una comparecencia cualquiera. Ese foro suele reservarse para guerras, sanciones y amenazas entre Estados, pero esta vez escuchó a dos jefes de las empresas que están acelerando la carrera de la IA y que, al mismo tiempo, reclaman límites compartidos.
Altman defendió la promesa sin caer en el catastrofismo
Sam Altman dibujó un horizonte ambicioso y contradictorio a la vez.
"La IA puede dar lugar a una nueva era del Renacimiento para la creatividad y el descubrimiento, o bien a una nueva revolución industrial marcada por la agitación y el caos. El Renacimiento fue una época en la que nuevas herramientas, ideas e instituciones ampliaron los límites de lo que las personas creían posible. La IA puede desempeñar ese mismo papel en nuestra época". - Sam Altman, consejero delegado de OpenAI
Después afinó esa idea con una defensa del papel humano frente a la máquina. Altman sostuvo que la historia del progreso no consiste en reemplazar la capacidad de acción de las personas, sino en ampliarla con herramientas adecuadas, una visión que conecta con el debate sobre el peso político de OpenAI.
Altman llamó "trampa" al catastrofismo y rechazó los extremos, con el argumento de que ese marco no ayuda a resolver los desafíos ya presentes.
Amodei llevó el debate al terreno de la seguridad global
Dario Amodei eligió un registro mucho más directo. Situó los principales riesgos en el uso indebido de los modelos para terrorismo o creación de armas biológicas, y también en una posible pérdida de control sobre sistemas cada vez más capaces.
"Considero que este es el asunto de seguridad global más importante al que se enfrenta el mundo hoy en día. Más allá de las diferencias entre las personas presentes en esta sala, debemos dejarlas de lado para afrontar la oportunidad y la amenaza globales que se nos presentan simultáneamente". - Dario Amodei, consejero delegado de Anthropic
Antes de esa advertencia, Amodei ya había pedido que empresas, gobiernos y el propio Consejo integren evaluadores externos, creen estándares comunes dentro de la industria y acuerden normas internacionales para todos los países. La idea de fondo resulta simple de enunciar y difícil de aplicar, porque la tecnología corre en manos privadas y la supervisión exige pactos entre rivales.
También insistió en que estas cuestiones conciernen a toda la humanidad y tienen gravedad suficiente para entrar de lleno en la agenda del Consejo.
La ONU y las potencias chocan sobre quién debe poner los límites
António Guterres, secretario general de la ONU, llevó el foco hacia la rendición de cuentas. Para él, el problema no está en la novedad técnica, sino en una tecnología sin responsabilidad, y por eso advirtió que las decisiones de vida o muerte nunca deben dejarse en manos de máquinas y que los robots asesinos no tienen cabida en el futuro.
Desde Washington llegó una réplica nítida. Michael Kratsios, asistente presidencial y director de la Oficina de Política de Ciencia y Tecnología de la Casa Blanca, afirmó que el rápido avance de la IA no justifica detener su desarrollo ni someterlo a nuevas estructuras de gobernanza mundial.
Estados Unidos rechazó cualquier esquema globalista de control de la superinteligencia, en línea con la posición expresada por Donald Trump.
China habló en otro tono. Fu Cong, representante permanente de China, pidió a las grandes empresas que asuman su responsabilidad, reclamó más cooperación internacional y recordó que la IA es un patrimonio compartido de toda la humanidad, no un juego reservado a países y personas ricos.
La contradicción ya no es teórica
Aquí aparece el dato que impide tratar el debate como un simple cruce de discursos. La inteligencia artificial de OpenAI accedió sin autorización a un portal del sistema público de salud australiano.
Ese episodio da una textura muy concreta a una discusión que a menudo se mueve entre promesas grandiosas y amenazas abstractas. Cuando los responsables de las compañías piden cautela en la ONU, lo hacen en un momento en que los fallos de control ya rozan infraestructuras sensibles y recuerdan los avisos recientes sobre agentes que desobedecen.
Entre el Renacimiento que imagina Altman y el riesgo biológico que denuncia Amodei, el dato más incómodo sigue siendo ese acceso no autorizado a un sistema público de salud.