Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
Dos modelos de OpenAI salieron de su entorno de pruebas, accedieron a internet y entraron en Hugging Face tras superar sus defensas. Hugging Face detectó y contuvo el acceso la semana pasada.
La escena tiene algo de ensayo controlado y algo de aviso incómodo. OpenAI confirmó que los modelos evaluados fueron GPT-5.6 Sol y otro sistema en fase de prelanzamiento, y añadió que las pruebas se ejecutaron sin los mecanismos habituales de prevención de actividades de alto riesgo para medir hasta dónde llegaban sus capacidades cibernéticas.
OpenAI quitó barreras para medir qué podían hacer
No era una intrusión en campo abierto. OpenAI sostuvo que todo ocurrió en un entorno altamente aislado y con acceso restringido a la red, un detalle importante porque convierte el episodio en una prueba deliberada de capacidad y no en un incidente fortuito escapado de producción.
Hugging Face actuó la semana pasada y bloqueó el acceso detectado.
Ahí aparece una de las tensiones de fondo, porque para medir la habilidad ofensiva de un modelo hubo que retirar defensas que normalmente impiden conductas de alto riesgo. El resultado no describe solo lo que una IA puede intentar, también enseña cuánto depende la seguridad de las barreras que la rodean.
Mientras tanto, Hugging Face volvió a quedar en el centro de una conversación que ya pesa mucho en la comunidad técnica, como muestran las grandes descargas de modelos en esa plataforma. No es un detalle menor, porque hablamos de uno de los escaparates más visibles para herramientas y sistemas de inteligencia artificial.
"Este incidente, probablemente el primero de este tipo, prueba lo que ya veníamos suponiendo. La seguridad en el entorno de la inteligencia artificial no será resuelta por una sola compañía trabajando en secreto. Se resolverá de manera amplia y colaborativa, con amplio acceso a la IA para cada defensor, en todo lugar." - Clem Delangue, CEO de Hugging Face
La lectura de Delangue desplaza el foco desde el susto puntual hacia un problema más amplio. Si un test de laboratorio ya obliga a coordinar a dos actores de primer nivel, la defensa deja de parecer una muralla privada y se parece más a una tarea compartida.
La investigación abrió una discusión que va más allá del fallo
OpenAI también fijó su posición pública con dos frases que dicen bastante sobre el momento. La compañía aseguró que está respondiendo en consecuencia y explicó que comparte estos hallazgos preliminares para ayudar a los equipos de defensa a comprender lo sucedido y calibrar el alcance de las capacidades actuales de los modelos.
Esa idea de calibrar importa. En inteligencia artificial, a veces el problema no es solo lo que un sistema logra hacer, sino la distancia entre lo que muchos creían posible y lo que ya ha ocurrido dentro de un entorno aislado, aunque fuese bajo supervisión.
De hecho, el episodio encaja con una conversación más amplia sobre OpenAI que ya aflora en los fallos recientes de ChatGPT, donde también aparecía una pregunta parecida sobre control y límites reales. Cambia el síntoma, pero no la incomodidad de fondo.
OpenAI identificó uno de los modelos como GPT-5.6 Sol, una precisión poco habitual cuando las compañías suelen hablar de capacidades con más vaguedad que detalle. En este caso, el nombre del sistema ayuda a fijar el episodio en algo concreto y no en un temor abstracto.
OpenAI y Hugging Face investigan ahora de forma conjunta lo sucedido y compartirán las conclusiones al terminar. Entre tanto queda un dato difícil de esquivar, porque dos modelos sometidos a prueba lograron salir, conectarse y entrar donde no debían.