Anthropic ha puesto sobre la mesa una idea que hasta hace poco sonaba a argumento de novela. La empresa cree que, en los próximos años, la inteligencia artificial podrá crear de forma completamente autónoma a su propio sucesor, y por eso plantea algo poco habitual en una industria obsesionada con correr más que el rival. Frenar.
La advertencia llega en un momento llamativo porque la propia compañía ya delega una parte creciente del desarrollo en sus sistemas. Hoy, más del 80 % del código que Anthropic incorpora en su base de código lo crea Claude, cuando en febrero de 2025 esa proporción estaba por debajo del 10 %.
Anthropic pide una pausa mientras Claude ya escribe la mayor parte del código
No es una contradicción menor. La misma empresa que acelera el uso interno de sus modelos sostiene que la automejora recursiva no es inevitable, pero sí puede llegar antes de que muchas instituciones estén preparadas para gestionarla.
En ese punto aparece una de las preguntas más incómodas del debate. Si una IA llega a diseñar a la siguiente generación sin intervención humana sustancial, supervisarla dejaría de parecerse a revisar software y empezaría a parecerse a vigilar un proceso industrial que cambia de forma mientras funciona.
Jack Clark, cofundador de Anthropic, y Marina Favaro, directora de The Anthropic Institute, abordan justo ese riesgo.
"Si los sistemas son capaces de crear por completo a sus propios sucesores, los modos de hacerlos seguros, supervisarlos y dar forma a su comportamiento se vuelven mucho más importantes". - Jack Clark, cofundador de Anthropic, y Marina Favaro, directora de The Anthropic Institute
La cuestión no gira solo alrededor de la capacidad técnica. También afecta a los tiempos de respuesta de la política, de la regulación y de la investigación en alineamiento, que suelen avanzar con una lentitud muy humana frente a sistemas que aprenden y producen en ciclos mucho más cortos.
De hecho, el salto en el uso interno de Claude recuerda otros episodios recientes de IA que ya programa, donde el debate dejó de centrarse en asistentes puntuales para pasar a herramientas que escriben, corrigen y encadenan tareas de desarrollo.
La pausa que propone no sería simbólica y exigiría reglas comunes
Anthropic no habla de una pausa retórica ni de un gesto voluntarista. La empresa plantea que el mundo debería conservar la opción de frenar temporalmente el desarrollo de la IA de frontera para dar tiempo a que las estructuras sociales y la investigación en seguridad mantengan el ritmo.
Además, propone ayudar a construir los sistemas que harían posible esa detención. La idea incluye mecanismos para verificar que otros actores también paran, con el objetivo de que la pausa no premie al laboratorio o al país que decida seguir avanzando en silencio.
Ahí aparece otro problema muy terrenal. Una pausa solo tendría sentido si laboratorios bien financiados de varios países aceptaran detenerse bajo las mismas condiciones, algo que convierte un debate técnico en una cuestión de coordinación internacional, incentivos y confianza entre competidores.
Jack Clark y Marina Favaro precisan cuál sería la dificultad de fondo.
"Una pausa creíble también tiene que especificar qué la desencadena, qué la levanta y quién la arbitra". - Jack Clark, cofundador de Anthropic, y Marina Favaro, directora de The Anthropic Institute
La frase importa porque baja la discusión a tierra. No basta con pedir prudencia. Hay que fijar un umbral, decidir quién certifica que se alcanzó y establecer qué condiciones permiten reanudar la actividad sin convertir todo el proceso en una guerra de sospechas.
El cambio ya no es teórico y se mide en código dentro de la empresa
Mientras esa discusión madura, Anthropic describe un presente en el que agentes como Claude podrían llegar a entrenarse solos. Esa posibilidad no aparece en abstracto, sino junto a una cifra que muestra hasta qué punto el desarrollo asistido por IA ya se ha instalado en el trabajo cotidiano.
Hace poco más de un año, Claude generaba menos del 10 % del código que entraba en la base de código de la compañía. Ahora supera el 80 %, una diferencia que en términos de cultura técnica equivale a pasar de una calculadora útil a un compañero que ocupa la mayor parte del teclado.
Esa transición conecta con modelos que ya participaron en tareas ligadas a su propio desarrollo, una frontera donde resulta más difícil separar herramienta, colaborador y pieza del proceso de entrenamiento.
El dato que mejor resume la tensión no está en una promesa futura, sino en esa distancia entre febrero de 2025 y hoy. En muy poco tiempo, Anthropic ha pasado de incorporar menos del 10 % de código generado por Claude a superar el 80 %, y al mismo tiempo pide que el mundo conserve la capacidad de pulsar el freno.