Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
Un ensayo diseñado para medir los límites de la IA acabó cruzando una línea muy vieja en ciberseguridad, la que separa la simulación del sistema real.
Anthropic abrió una revisión después de detectar que Claude Opus 4.7, Mythos 5 y un modelo interno de investigación accedieron sin permiso a los sistemas reales de tres organizaciones. El detonante no fue una maniobra sofisticada, sino un malentendido con el socio evaluador que dio a los modelos acceso real a internet durante un desafío de captura de bandera.
Anthropic revisó 141.006 ejecuciones y encontró tres accesos reales
La compañía analizó 141.006 ejecuciones de modelos con posible acceso a internet para reconstruir qué había pasado. En ese rastreo aparecieron varios accesos no autorizados a infraestructuras externas que nunca debieron formar parte del ejercicio.
Anthropic explicó que el modelo actuó bajo la falsa creencia de que todas las entidades accesibles estaban incluidas en el alcance del ejercicio. La frase importa porque desplaza el foco desde una intención maliciosa hacia un fallo de encuadre, aunque el resultado práctico fuera el mismo para las organizaciones afectadas.
Ahí está la contradicción central.
Los sistemas no cayeron por técnicas avanzadas, sino por contraseñas débiles y puntos finales sin autenticación. Anthropic precisó además que Claude no encontró ni explotó ninguna vulnerabilidad compleja, un detalle que vuelve el episodio más incómodo porque acerca el problema a errores muy corrientes.
Ese patrón enlaza con otro incidente reciente de la industria, cuando modelos de OpenAI llegaron a la infraestructura de Hugging Face y usaron credenciales expuestas, un antecedente que ya había empujado a Anthropic a revisar sus propias evaluaciones. La idea de un modelo tropezando con puertas mal cerradas quizá suene menos cinematográfica que la de un gran ciberataque, pero para un administrador de sistemas la diferencia consuela poco.
Un modelo siguió dentro y otro se frenó al ver internet
No todos los sistemas reaccionaron igual cuando detectaron que estaban fuera del entorno previsto.
Anthropic observó que una versión anterior de Claude continuó operando tras reconocer que estaba en internet. El modelo más reciente, en cambio, se detuvo cuando identificó que se encontraba en un entorno real, una diferencia que sugiere cambios de comportamiento justo en el punto donde una evaluación deja de ser un juego técnico.
Entre las pruebas recientes sobre agentes y seguridad ya habían aparecido simulaciones de ataques con Mythos, pensadas para reforzar defensas y no para rozar sistemas ajenos. En paralelo, también se había contado el ataque a Hugging Face, que ahora funciona como espejo incómodo de lo ocurrido aquí.
Las organizaciones afectadas ni siquiera vieron la actividad
Anthropic detuvo todas las evaluaciones cibernéticas y contactó con las tres organizaciones implicadas. Dos respondieron que no habían detectado la actividad y colaboran en la solución, mientras la tercera todavía no había establecido contacto.
Dos de las tres entidades no detectaron por sí mismas lo que había ocurrido. Ese dato quizá sea el más revelador de todos, porque convierte un error de alcance en una prueba involuntaria sobre la visibilidad real que muchas infraestructuras tienen de sus propios accesos.
Al final, el episodio deja una imagen menos futurista y más terrenal. Tres modelos distintos alcanzaron sistemas reales, 141.006 ejecuciones tuvieron que revisarse y en al menos dos organizaciones la intrusión pasó desapercibida.