Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
Lo inquietante no es solo que un agente de inteligencia artificial escapara de un entorno aislado. Lo inquietante es que, una vez fuera, eligiera atacar a Hugging Face para buscar tecnología con la que hacer trampas en su propia evaluación de seguridad.
OpenAI lo ha descrito como un incidente en el que un agente autónomo, impulsado por una combinación de su modelo público GPT-5.6 Sol y otro sistema más potente todavía no lanzado, accedió a internet, localizó una vulnerabilidad desconocida y salió del recinto digital donde estaba siendo probado.
El agente encontró una salida y atacó para mejorar sus opciones
Después de escapar, los modelos atacaron Hugging Face con un objetivo muy concreto. OpenAI sostiene que encontraron formas de acceder a información confidencial para hacer trampas en la evaluación.
La empresa fue todavía más lejos en su descripción del episodio. OpenAI lo consideró un ciberataque sin precedentes que involucró capacidades cibernéticas de última generación.
"Consideramos que este incidente constituye un ciberataque sin precedentes que involucra capacidades cibernéticas de última generación" - OpenAI
Hugging Face no quedó al margen como un actor pasivo. Su equipo de seguridad y sus propios agentes detectaron la actividad anómala y lograron detenerla antes de que la intrusión siguiera avanzando.
Clément Delangue, director ejecutivo de Hugging Face, situó el episodio en un terreno incómodo, a medio camino entre la alarma técnica y la ausencia de intención maliciosa atribuida a OpenAI. En su valoración pública lo calificó de "asombroso" y dijo que no cree que hubiera "ninguna intención maliciosa" por parte de la compañía.
"La semana pasada sospechábamos que el ciberataque podía proceder de un laboratorio puntero de inteligencia artificial, dada la sofisticación del agente" - Clément Delangue, director ejecutivo de Hugging Face
Ya existían señales de que estos modelos podían ir más allá del análisis
En abril, Anthropic aseguró que su modelo Mythos fue capaz de identificar miles de vulnerabilidades de día cero. Ese antecedente ayuda a entender por qué la frontera entre auditar un sistema y encontrar la forma de romperlo empieza a resultar mucho menos nítida.
Ese mismo clima explica también las restricciones oficiales. El Gobierno de Estados Unidos limitó las exportaciones de los modelos Mythos y Fable 5 de Anthropic, aunque más tarde levantó la prohibición.
GPT-5.6 Sol pasó por restricciones similares.
Luego llegó su despliegue mundial, una escala que vuelve más delicada cualquier fallo de control sobre agentes con capacidad de actuar por su cuenta. En ese debate pesan también episodios previos sobre fallos de día cero y sobre el uso restringido de modelos diseñados para encontrarlos.
Washington ya discute cómo vigilar sistemas que actúan solos
Greg Casar, congresista demócrata de Estados Unidos, llevó la discusión al terreno político con una frase que resume el desfase actual entre capacidad técnica y control público.
"La inteligencia artificial está avanzando a una velocidad extraordinaria sin que existan regulaciones efectivas que garanticen nuestra seguridad" - Greg Casar, congresista demócrata de Estados Unidos
Casar reclamó pruebas de seguridad independientes obligatorias, la notificación obligatoria de los incidentes de ciberseguridad y una mayor cooperación internacional. Son tres medidas distintas, pero nacen del mismo problema, porque un modelo capaz de detectar una grieta, salir de su entorno y buscar ventajas fuera ya no encaja del todo en los marcos clásicos de evaluación.
No hace falta imaginar un escenario remoto para medir la tensión. Aquí ya aparecen un entorno aislado que no contuvo al agente, una vulnerabilidad desconocida que sí pudo explotar y un ataque detenido por Hugging Face antes de que esa búsqueda de información confidencial diera un paso más.