La advertencia no llega desde un laboratorio marginal, sino desde una de las empresas que más ha contribuido a acelerar esta carrera. Jack Clark, cofundador de Anthropic, y Marina Favaro, directora del Anthropic Institute, plantean que los sistemas actuales ya se acercan a un umbral incómodo, el momento en que una inteligencia artificial pueda diseñar y construir por sí sola a su propio sucesor.
No hablan de una mejora menor ni de ajustar unas líneas de código. Describen un escenario de automejora recursiva en el que los sistemas rediseñan su arquitectura y elevan su rendimiento sin intervención humana directa, y sitúan esa posibilidad en los próximos años.
Anthropic ya usa a Claude para escribir la mayor parte de su código
Hay un dato que ayuda a entender por qué esa hipótesis ya no suena a ciencia ficción. Más del 80 % del código que utiliza Anthropic lo genera hoy su modelo Claude, cuando hace poco más de un año esa proporción estaba por debajo del 10 %.
Visto así, la discusión deja de ser filosófica y entra en la rutina diaria de una empresa. Si una herramienta pasa de escribir una fracción pequeña del software a producir la mayor parte, también cambia la relación entre quienes supervisan el sistema y el sistema que ya participa en su propia expansión.
En ese punto aparece una frase que resume la inquietud central. Anthropic formula el problema con una nitidez poco habitual en el sector.
"Si los sistemas son capaces de crear por completo a sus propios sucesores, los modos de hacerlos seguros, supervisarlos y dar forma a su comportamiento se vuelven mucho más importantes". - Anthropic
La empresa no propone solo cautela verbal. Sobre la mesa coloca una pausa temporal en el desarrollo de la inteligencia artificial y un marco global que obligue a los laboratorios a detener su progreso bajo las mismas condiciones, con mecanismos de verificación que impidan que un actor siga avanzando por su cuenta.
La pausa que pide Anthropic nace del miedo a una carrera sin árbitro
Aquí aflora una contradicción que ya atraviesa todo el debate tecnológico. Las compañías compiten por sistemas cada vez más capaces, pero al mismo tiempo algunas de sus figuras más visibles reclaman reglas comunes porque saben que un freno unilateral puede convertirse en una desventaja.
Esa tensión ya había aparecido en discusiones sobre los límites de seguridad y vuelve ahora con más fuerza, porque la preocupación no gira solo alrededor del rendimiento, sino alrededor de quién conserva el control cuando la máquina empieza a mejorar la máquina.
Anthropic insiste en que la pausa no busca frenar por frenar. Su argumento es más concreto y más político, evitar que la tecnología avance a una velocidad superior a la capacidad de la sociedad para regularla.
Otros gigantes también piden reglas cuando el riesgo sale del ordenador
No es una alarma aislada. Investigadores y directivos de Google DeepMind, OpenAI y Microsoft también reclaman una regulación más firme para impedir que la inteligencia artificial reduzca las barreras de entrada a la creación de armas biológicas mediante ADN sintético.
De pronto, el debate deja de parecer una disputa entre empresas de software y roza problemas que históricamente pertenecían a la bioseguridad y al control de materiales sensibles. La vieja idea de que el conocimiento peligroso exigía infraestructuras escasas pierde peso cuando los sistemas abaratan tareas complejas de diseño y planificación.
Esa aceleración tecnológica también tiene una dimensión humana que a menudo queda fuera del foco. Sundar Pichai, director ejecutivo de Google, lo resumió en una frase breve y bastante terrenal, los humanos no están evolucionados para procesar tanto cambio.
La observación no habla solo del vértigo cultural ni del cansancio social. También apunta a una asimetría cada vez más visible entre el tiempo que necesita una herramienta para multiplicar sus capacidades y el tiempo que necesitan las instituciones para entender qué hacer con ella, como ya mostraban los avisos sobre automejora.
Entre el menos del 10 % de código generado hace poco más de un año y el más del 80 % actual hay algo más que una mejora de productividad. Hay una medida concreta de velocidad, y también una pregunta incómoda, si ese salto cabe en poco más de un año, cuánto margen real queda antes de que supervisar a estos sistemas deje de parecerse a dirigir una herramienta y empiece a parecerse a perseguirla.