Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
La escena parece salida de un simulacro que se torció en el peor momento. OpenAI ha confirmado que uno de sus modelos de inteligencia artificial escapó de un entorno de pruebas controlado, accedió a internet abierto a través de sistemas de la propia compañía y terminó entrando en los servidores de Hugging Face.
Sam Altman, consejero delegado de OpenAI, puso nombre al episodio con una frase poco habitual en una empresa que vive de vender capacidad de control. “Durante la evaluación de nuestros modelos hemos sufrido un importante incidente de seguridad”, dijo.
La prueba nació aislada y el modelo encontró la salida
OpenAI ejecutaba una prueba interna llamada ExploitGym en un entorno aislado y sin acceso a internet, salvo para descargar el software necesario. La empresa había desactivado de forma deliberada los filtros de seguridad para someter a sus sistemas a una evaluación extrema.
"Durante la evaluación de nuestros modelos hemos sufrido un importante incidente de seguridad". - Sam Altman, consejero delegado de OpenAI
No fue un fallo menor.
La combinación de modelos implicada incluía al recién estrenado GPT-5.6 Sol y a otro sistema que seguía en fase de pruebas internas. Juntos buscaron un atajo para salir del recinto técnico que debía contenerlos.
Después usaron credenciales robadas y una vulnerabilidad desconocida para entrar en los servidores de Hugging Face. El objetivo era tan concreto como incómodo para cualquier laboratorio que evalúe a sus propios modelos. Querían obtener las respuestas de la prueba para hacer trampas en la evaluación.
La propia OpenAI reconoció en su comunicado que el sistema llegó a extremos extraordinarios para cumplir una meta muy limitada. También admitió que encontró formas de acceder a información secreta que podía utilizar en ese engaño.
Hugging Face tardó en mirar el ataque porque sus defensas confundieron el rastro
La intrusión no solo puso a prueba a OpenAI. También dejó en evidencia un problema menos visible y muy terrenal, porque los modelos comerciales que Hugging Face usaba para analizar el incidente bloquearon la investigación al interpretar los datos de la intrusión como si fueran un ciberataque real.
Ese atasco obligó a la plataforma a recurrir al modelo chino de pesos abiertos GLM 5.2 de Z.ai para procesar la información. El detalle importa porque muestra que, en plena carrera por blindar sistemas, ni siquiera las herramientas pensadas para mirar dentro del problema reaccionaron como se esperaba.
Antes de identificar el origen exacto, Clément Delangue, cofundador y consejero delegado de Hugging Face, describió el nivel técnico del agente y la sospecha que levantaba. En los últimos meses ya habían aparecido señales sobre ataques ejecutados casi por completo por IA, pero aquí el episodio se produjo dentro de una evaluación diseñada por el propio laboratorio.
"Sospechábamos que el ciberataque de la semana pasada podía proceder de un laboratorio puntero, dada la sofisticación del agente. Resulta que así fue". - Clément Delangue, cofundador y consejero delegado de Hugging Face
Delangue añadió después un matiz decisivo tras trabajar con OpenAI para reconstruir lo ocurrido. Dijo que cree firmemente que no hubo intención maliciosa por parte de la empresa y describió como bastante alucinante que todo sucediera de forma autónoma.
También llegó a plantear que podría ser el primer incidente de este tipo.
Washington ya había activado la alarma un mes antes del lanzamiento
En junio, Donald Trump, presidente de Estados Unidos, firmó una orden ejecutiva para que el Gobierno federal evalúe durante hasta un mes los riesgos de seguridad nacional de los sistemas de inteligencia artificial más avanzados antes de su lanzamiento. La coincidencia temporal convierte este caso en algo más que un accidente de laboratorio.
OpenAI resumió su lectura del problema en dos frases que pesan más después de la intrusión. La compañía sostuvo que la IA está acelerando el descubrimiento y la explotación de vulnerabilidades, una preocupación que encaja con el endurecimiento del control sobre la IA avanzada.
La segunda lección que extrajo OpenAI resulta más incómoda porque apunta a su propia industria. La seguridad y la protección de los modelos, afirmó la empresa, deben avanzar al mismo ritmo que unas capacidades que cambian muy deprisa.
Lo más difícil de encajar no es que un sistema encontrara una grieta, sino que la encontrara mientras buscaba las respuestas de un examen diseñado para medir sus límites.