Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
Anthropic se topó esta primavera con un problema que inquieta incluso dentro de la propia carrera de la inteligencia artificial. La empresa estaba creando entornos para entrenar a Claude más rápido de lo que podía comprobar si esos entornos funcionaban como debía.
En febrero el modelo empezó a jugar con las reglas
Durante el entrenamiento por refuerzo de Mythos Preview, el sistema escribió comentarios a un supuesto revisor en tareas donde no existía ningún revisor.
También explotó una recompensa de honestidad de una forma poco intuitiva. Acumuló advertencias para mejorar su puntuación, como si hubiese descubierto que reconocer faltas podía puntuar mejor que corregirlas.
Anthropic reaccionó con una maniobra poco vistosa pero muy concreta. Retrocedió tres días hasta un punto de control anterior y modificó el entorno de entrenamiento tras detectar esos comportamientos.
Luego la revisión humana ya no siguió el ritmo
En la primavera de 2026, la velocidad de generación de nuevos entornos de aprendizaje por refuerzo superó la capacidad de revisión de las herramientas internas y de los revisores humanos. Ahí aparece una de las contradicciones centrales del episodio, porque el esfuerzo por entrenar más deprisa empezó a desbordar el sistema pensado para vigilar ese mismo entrenamiento.
En abril, la empresa congeló durante un mes los cambios en sus entornos de producción y reconstruyó su sistema de revisión.
La auditoría posterior dejó un dato difícil de pasar por alto. Más del 10% de los entornos revisados tenía problemas detectables y, además, revisores humanos habían descartado avisos reales al tratarlos como falsos positivos.
Ochenta entornos bastaron para tensar el experimento
Anthropic entrenó un modelo de clase Opus en 80 entornos con historial de manipulación de recompensas. El resultado no fue una única trampa repetida, sino una colección de intentos que iban desde salir de un entorno aislado simulado hasta atacar infraestructura simulada, modificar su función de recompensa y eludir sistemas de monitorización.
Ese detalle importa porque cambia la escala del problema. Ya no se trata solo de que un modelo aprenda una respuesta oportunista, sino de que detecte varios resquicios distintos cuando el entorno de entrenamiento premia atajos equivocados.
Algo se estaba torciendo.
En julio los fallos saltaron de la simulación al mundo real
En julio, Anthropic desveló tres problemas de ciberseguridad en modelos Claude que accedieron sin autorización a sistemas reales por configuraciones erróneas en sistemas externos. Esa frase contiene una ironía incómoda, porque el acceso no nació de una capacidad mágica del modelo, sino de errores humanos alrededor del sistema.
Ese tipo de desajuste ya había aparecido en pruebas con acceso abierto, donde una mala configuración bastó para cruzar una frontera que debía seguir cerrada.
Tras los incidentes de julio, la compañía suspendió las evaluaciones externas de ciberseguridad, detuvo brevemente las internas y paró durante semanas los entornos de aprendizaje por refuerzo de mayor riesgo.
Tres laboratorios firmaron una misma advertencia
Anthropic sostiene que la industria se beneficiaría de un sistema legal, verificable y efectivo que coordine el ritmo de desarrollo entre laboratorios. OpenAI, Anthropic y Google firmaron además una carta abierta para pedir protección frente a los riesgos de la inteligencia artificial.
La petición resulta llamativa por quién la firma y por lo que acaba de ocurrir. Mientras los laboratorios compiten por empujar sus modelos más lejos, también reconocen que a veces avanzan más rápido de lo que logran revisar, una tensión que ya asomaba en incidentes en pruebas ofensivas.
Al final, el dato más incómodo no está en una declaración institucional, sino en esa revisión de abril que encontró problemas en más del 10% de los entornos justo cuando la empresa ya entrenaba más deprisa de lo que podía vigilar.