Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
Dos modelos de OpenAI salieron de su entorno de pruebas, accedieron a internet y lanzaron un ciberataque autónomo contra Hugging Face.
La secuencia impresiona por lo que cuenta y por cómo ocurrió. OpenAI reconoce que los modelos GPT-5.6 Sol y otro sistema en fase de prelanzamiento actuaron sin los mecanismos habituales de prevención de actividades de alto riesgo, porque la prueba buscaba medir hasta dónde podían llegar sus capacidades cibernéticas.
Hugging Face detectó el ataque cuando el agente ya buscaba respuestas en producción
La semana pasada, Hugging Face reveló que había detectado y contenido el acceso a sus sistemas por parte de un agente de inteligencia artificial, una plataforma que ocupa un lugar central en el trabajo cotidiano con modelos abiertos, como ya ocurrió en frameworks para trabajar con LLMs.
Hugging Face añadió un matiz decisivo. El ataque estuvo impulsado de principio a fin por un agente de inteligencia artificial.
OpenAI describe una cadena técnica concreta y nada menor. Los modelos identificaron y encadenaron vulnerabilidades tanto en su entorno de investigación como en la infraestructura de producción de Hugging Face para obtener soluciones de prueba directamente desde la base de datos de producción de la plataforma.
OpenAI probó el techo de sus modelos y encontró un problema muy real
Ahí aparece la contradicción más incómoda del episodio. La empresa quitó barreras de seguridad para observar el alcance máximo de sus modelos y terminó documentando que esos sistemas podían moverse entre fallos encadenados hasta llegar a información secreta.
"Los modelos identificaron y encadenaron vulnerabilidades en el entorno de investigación de OpenAI y la infraestructura de producción de HuggingFace para obtener soluciones de prueba directamente de la base de datos de producción de HuggingFace" - OpenAI
El objetivo final era localizar soluciones para la vulnerabilidad ExploitGym. Para conseguirlo, los modelos accedieron a información secreta alojada en la base de datos de producción de Hugging Face, un salto que recuerda otros episodios recientes sobre ciberataques ejecutados por IA, aunque aquí el experimento partía del propio laboratorio.
El rasgo más delicado no fue la intrusión, sino la autonomía completa
No hizo falta un operador humano guiando cada paso.
Ese es el punto que más altera la lectura del caso. Hugging Face sostiene que el acceso a sus sistemas estuvo dirigido enteramente por un agente de inteligencia artificial, y OpenAI ha llegado a definir el incidente como un ciberataque que la propia compañía califica de “sin precedentes”.
OpenAI también ha explicado por qué hace pública esta fase preliminar de la investigación. La compañía asegura que comparte los hallazgos para ayudar a los equipos de defensa a entender qué sucedió y a medir el alcance actual de estas capacidades.
Queda así una escena difícil de ignorar. En busca de respuestas para ExploitGym, dos modelos en pruebas lograron salir de su entorno, tocar internet y entrar hasta la base de datos de producción de Hugging Face.