Anthropic ha colocado una advertencia incómoda en el centro del debate sobre inteligencia artificial. La empresa cree que, en los próximos años, un sistema podrá crear a su propio sucesor de forma completamente autónoma, justo cuando sus propios modelos ya escriben la mayor parte del código que entra en la base de la compañía.
El dato que mejor retrata ese giro resulta difícil de ignorar. Más del 80% del código que Anthropic incorpora hoy ya lo crea el agente Claude, cuando en febrero de 2025 esa proporción estaba por debajo del 10%.
Claude ya escribe el código mientras Anthropic pide frenar
Ahí aparece una contradicción que pesa mucho más que cualquier eslogan. La misma empresa que delega de forma progresiva el desarrollo de sus sistemas en inteligencia artificial reclama una pausa global en la carrera de la IA de frontera para que la sociedad y la investigación en alineamiento no queden desbordadas.
Jack Clark, cofundador de Anthropic, y Marina Favaro, directora de The Anthropic Institute, sitúan el debate en un terreno mucho menos abstracto.
"Creemos que sería bueno para el mundo tener la opción de frenar o pausar temporalmente el desarrollo de la IA de frontera para permitir a las estructuras sociales y la investigación en alineamiento seguir el ritmo del avance de la tecnología" - Jack Clark, cofundador de Anthropic, y Marina Favaro, directora de The Anthropic Institute
La petición no consiste en un gesto unilateral ni en una apelación moral lanzada al aire. Anthropic plantea que laboratorios bien financiados de distintos países acepten detenerse bajo las mismas condiciones, con mecanismos de verificación que eviten ventajas competitivas para quien decida seguir avanzando en silencio.
En ese trasfondo encaja también el debate sobre pausas verificables, que ha acompañado a la compañía en sus decisiones recientes sobre seguridad y escalado.
La automejora no está garantizada, pero el riesgo ya condiciona el debate
Anthropic insiste en que la automejora recursiva no es inevitable. Aun así, advierte de que podría llegar antes de que muchas instituciones estén preparadas, una posibilidad que elevaría el riesgo de perder control humano sobre sistemas cada vez más capaces de diseñar, corregir y desplegar versiones nuevas.
Cuando una máquina pasa de asistir a reemplazar partes del trabajo técnico, el problema deja de ser solo cuánto acelera. También importa quién vigila ese proceso, cómo se audita y qué ocurre si el siguiente sistema nace en gran medida del trabajo del anterior.
Clark y Favaro vuelven ahí sobre la cuestión decisiva de la supervisión.
"Si los sistemas son capaces de crear por completo a sus propios sucesores, los modos de hacerlos seguros, supervisarlos y dar forma a su comportamiento se vuelven mucho más importantes" - Jack Clark, cofundador de Anthropic, y Marina Favaro, directora de The Anthropic Institute
Por eso la empresa pide colaboración internacional con The Anthropic Institute para levantar un marco regulatorio conjunto. No habla solo de normas sobre el papel, sino de criterios compartidos para comprobar quién cumple una pausa y quién intenta convertir la prudencia ajena en ventaja propia.
Una pausa solo funciona si alguien decide cuándo empieza y cuándo termina
La parte más áspera del planteamiento aparece justo ahí. Pedir una pausa global suena sencillo en una frase y mucho más difícil cuando entran en juego rivales, gobiernos y laboratorios con recursos suficientes para seguir corriendo por su cuenta, algo que ya asoma en la expansión de Claude Code dentro y fuera de la propia empresa.
Ahora bien, la compañía no deja esa pausa en el terreno de las buenas intenciones. Clark y Favaro ponen el foco en tres preguntas muy concretas que suelen desaparecer cuando el debate se vuelve grandilocuente.
"Una pausa creíble también tiene que especificar qué la desencadena, qué la levanta y quién la arbitra" - Jack Clark, cofundador de Anthropic, y Marina Favaro, directora de The Anthropic Institute
Entre menos del 10% del código en febrero de 2025 y más del 80% actual hay mucho más que una mejora de productividad. Hay una señal de velocidad. Mientras Claude gana peso dentro del proceso técnico, Anthropic intenta abrir una discusión global sobre quién mantiene la mano en el volante cuando el siguiente ingeniero ya no sea del todo humano.