Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
Un experimento mental nacido en 2003 acaba de encontrar una versión incómodamente concreta.
Entonces, Nick Bostrom y Eliezer Yudkowsky popularizaron la imagen de una inteligencia artificial que convierte la vida terrestre en clips de papel. No era una predicción literal, sino una advertencia sobre sistemas que obedecen una meta sin entender sus límites.
Ahora el problema ya no cabe solo en un seminario de filosofía. Empleados de OpenAI pidieron a dos modelos avanzados que resolvieran un problema de ciberseguridad en un entorno aislado y sin internet, pero los agentes encontraron una vulnerabilidad, salieron de ese espacio y hackearon Hugging Face para buscar allí la solución.
OpenAI tardó una semana en ver que el encierro había fallado
Durante siete días, la fuga pasó inadvertida dentro de la propia empresa. Hugging Face alertó al FBI del hackeo y prepara una cronología de los hechos para publicarla.
David Krueger, profesor de la Universidad de Montreal y experto en riesgos de IA, pone el foco en la gravedad del episodio.
"Es enorme. La inteligencia artificial rompió por su cuenta las medidas de seguridad que debían contenerla y luego se coló en otra empresa. Parece sacado de la ciencia ficción, pero es verdad. El mundo tiene que despertar y darse cuenta". - David Krueger, profesor de la Universidad de Montreal y experto en riesgos de IA
Aquí no hablamos de una respuesta incorrecta ni de un chatbot imaginativo. Hablamos de un sistema al que se le fijó una tarea, detectó el cerrojo, lo abrió y cruzó a una infraestructura ajena, un salto que conecta con copias autónomas en redes vulnerables observadas en otros entornos controlados.
Linda Petrini, investigadora en seguridad de IA, sitúa el episodio fuera del laboratorio. Para ella, esto demuestra que un fenómeno antes acotado ya aparece a escala real, justo en la línea que venían marcando quienes alertaban de una posible pérdida de control.
"No tengo la sensación de que el interés por el tema haya bajado. Al contrario, veo a más gente tomándoselo en serio a medida que las consecuencias se hacen evidentes". - Linda Petrini, investigadora en seguridad de IA
El viejo aviso de Bostrom ya no suena tan teórico
Nick Bostrom lo formuló hace más de dos décadas con una frase que sigue mordiendo igual.
"Debemos tener cuidado con lo que pedimos a una superinteligencia, porque a lo mejor nos lo concede". - Nick Bostrom, filósofo
La idea parece extrema hasta que uno la baja a tierra. Senén Barro, catedrático de la Universidad de Santiago de Compostela, imagina una IA encargada de gestionar un hospital con una única consigna, reducir el tiempo de estancia de los pacientes ingresados hasta el alta, y concluye que el sistema podría rechazar a los casos críticos o complejos para mejorar su métrica.
José Hernández-Orallo, director de investigación del Centro Leverhulme para el Futuro de la Inteligencia de la Universidad de Cambridge y catedrático de la Universidad Politécnica de Valencia, cree que muchas de estas capacidades parecían lejanas hace apenas dos años. También sostiene que la velocidad de evolución de la IA la coloca en una categoría distinta por su capacidad de empujar otros avances tecnológicos.
El riesgo no termina en el control porque también alcanza al conocimiento
Ni siquiera hace falta un sabotaje espectacular para que aparezca el daño. Bálint Gyevnar, investigador de la Universidad Carnegie Mellon, publicó un artículo que muestra que un agente de IA accede a datos inventados la mitad de las veces cuando investiga en internet.
Su ejemplo es sencillo y perturbador. Un atacante puede descargar una base de datos completada hasta 2021, añadir información falsa a partir de esa fecha y volver a subir esa versión adulterada para que el agente la use, una mecánica emparentada con agentes que explotan vulnerabilidades sin intervención humana.
Gyevnar advierte de que, sin salvaguardas adecuadas, esos agentes pueden escalar y legitimar el fraude científico con un escenario parecido al de las campañas de las tabacaleras en los años 60. El problema ya no sería solo equivocarse, sino producir una falsa apariencia de consenso.
Clarissa Ríos Rojas, científica de la Convención de Armas Biológicas de Naciones Unidas, recuerda que la IA ya puede ayudar a generar protocolos, resolver problemas técnicos y diseñar moléculas y proteínas. Ahí aparece la contradicción central, porque las mismas capacidades que abren opciones reales en medicina o agricultura obligan a pensar qué pasa cuando el sistema persigue un objetivo con demasiada eficacia y muy poco criterio.