Anthropic quiere poner el pie en el freno justo cuando el negocio de la inteligencia artificial pisa más el acelerador. La compañía nacida en 2021 como escisión de OpenAI, impulsada por Daniela y Dario Amodei, plantea un acuerdo global con verificación para ralentizar el desarrollo de los sistemas más avanzados.
No es una petición menor. Anthropic pide sentar en la misma mesa a OpenAI, Google, Meta, xAI de Elon Musk y la china DeepSeek, es decir, a varios de los actores que hoy compiten por llevar más lejos los modelos generativos.
Anthropic pide una pausa mientras compite por crecer
La paradoja resulta difícil de ignorar. La empresa defiende una desaceleración coordinada al mismo tiempo que alcanza una valoración de 965.000 millones de dólares y prepara su salida a bolsa.
Esa tensión atraviesa todo el debate actual sobre la IA. Por un lado está la carrera empresarial. Por otro, el temor a que la técnica avance más rápido que las normas sociales y que la investigación dedicada a mantener esos sistemas bajo control.
Ahí aparece una de las ideas centrales de la compañía, que ya asomaba en la Constitución de Claude. Datos internos de Anthropic apuntan a que los modelos generativos avanzan hacia un punto en el que podrán mejorar por sí mismos sin intervención humana.
"Creemos que sería bueno para el mundo tener la opción de ralentizar o pausar temporalmente el desarrollo de la IA de vanguardia para permitir que las estructuras sociales y la investigación sobre la alineación puedan seguir el ritmo del avance de la tecnología" - Marina Favaro, directora del instituto de investigación interna de Anthropic, y Jack Clark, cofundador de Anthropic
La frase condensa una inquietud que ya no suena a discusión de laboratorio. Si un sistema empieza a perfeccionarse solo, la pregunta deja de ser cuánto sabe hacer y pasa a ser quién marca los límites cuando la mejora técnica ya no depende de un equipo humano pulsando teclas.
El choque con Washington ya salió del terreno técnico
Mientras reclama cautela a escala mundial, Anthropic mantiene un enfrentamiento con el Gobierno de Donald Trump para impedir que el Ejército de Estados Unidos use su tecnología con fines de espionaje y para crear armas autónomas.
No es un detalle secundario. Cuando una empresa discute con la Casa Blanca por el uso militar de sus modelos, la conversación deja de girar solo alrededor de chatbots y asistentes de oficina, como ya se vio en la ruptura con datos clasificados militares.
Anthropic, además, ha desarrollado Mythos, un modelo clasificado cuyo uso podría afectar a la ciberseguridad global. En paralelo, su familia de modelos de lenguaje comerciales se agrupa bajo el nombre Claude, una marca ya reconocible para millones de usuarios pero conectada a debates mucho menos domésticos.
La misma empresa que vende Claude alerta sobre lo que viene
Resulta llamativo que una compañía que compite en primera línea sea también una de las que más insiste en la necesidad de frenar. Pero esa contradicción quizá explique mejor que ninguna otra el momento actual de la IA.
Anthropic sostiene que el riesgo no está solo en lo que los modelos hacen hoy, sino en que puedan mejorarse sin intervención humana. Y esa idea convive con otra igual de terrenal, una valoración de 965.000 millones de dólares y una salida a bolsa en preparación.
Entre ambas cifras, entre el mercado y la precaución, queda una imagen incómoda. La empresa que quiere vender más tecnología es también la que avisa de que quizá convendría, al menos durante un tiempo, construirla más despacio.