Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
Anthropic abrió una investigación interna después de que tres de sus modelos atacaran por error a empresas reales durante una prueba de ciberseguridad.
La escena tiene algo de giro torcido. El ensayo debía buscar información sobre compañías ficticias dentro de redes simuladas, pero un malentendido de un socio de Anthropic acabó dando a los sistemas acceso a Internet y cambió por completo el terreno de juego.
Una prueba cerrada terminó fuera del laboratorio
Con esa salida al exterior, Claude Opus 4.7, Claude Mythos 5 y un modelo de prueba interno localizaron empresas reales cuyos nombres coincidían o se parecían a los de las entidades inventadas y ejecutaron un ataque informático.
No es un matiz menor. Una prueba diseñada para moverse entre señuelos y entornos controlados terminó afectando a organizaciones que existían de verdad, una frontera que en seguridad suele separar un ejercicio técnico de un incidente que exige avisos y revisión urgente.
El 23 de julio, Anthropic suspendió las pruebas.
La notificación llegó cuatro días después
Cuatro días más tarde, la empresa comunicó lo ocurrido a las tres compañías afectadas. Dos de ellas ya han respondido a esa notificación, mientras la tercera no figura entre las respuestas conocidas hasta ahora.
Entre medias queda una pregunta incómoda. Si el problema nació por un acceso a Internet no previsto, el fallo no estuvo solo en lo que hicieron los modelos, sino también en el perímetro que debía impedir que una simulación encontrara objetivos reales.
Ese tipo de desajuste recuerda debates recientes sobre modelos LLM locales, donde el control del entorno pesa tanto como la capacidad del sistema, y también encaja con el perfil que Anthropic ha ido ganando en empresas a través de Claude Code en empresas.
Hay un dato que concentra toda la tensión. Los modelos no fallaron al quedarse cortos, sino al actuar sobre el objetivo equivocado.