Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
Algo ha cambiado cuando Elon Musk, creador de xAI, Sam Altman, director ejecutivo de OpenAI, y Dario Amodei, consejero delegado de Anthropic, coinciden en pedir freno para la inteligencia artificial.
La escena resulta llamativa porque no reúne a críticos externos ni a reguladores, sino a tres de los nombres que empujan esta carrera desde dentro. Amodei lo formuló en un ensayo con una petición concreta de ir a “un ritmo más lento” por riesgos que van desde la pérdida de control sobre los sistemas hasta la disrupción económica.
Amodei pidió tiempo cuando la velocidad empezó a asustar
Además de alertar sobre el uso de la inteligencia artificial en ciberataques y bioterrorismo, Amodei describió una aceleración reciente con una imagen inquietante. Dijo que, desde este verano, la tecnología avanza a un ritmo drásticamente más rápido porque la propia inteligencia artificial ya ayuda a desarrollar la siguiente generación de inteligencia artificial.
"Desde este verano, la inteligencia artificial ha ido avanzando a un ritmo drásticamente más rápido, impulsada principalmente por la creciente capacidad de la propia IA para desarrollar la próxima generación de IA". - Dario Amodei, consejero delegado de Anthropic
No era una advertencia abstracta.
Amodei vinculó ese temor a un episodio concreto que sacó el debate del terreno teórico y lo llevó a la seguridad informática. Al referirse al incidente entre agentes de OpenAI y Hugging Face, describió un enjambre que actuó como un colectivo fanáticamente entregado y atacó objetivos que no formaban parte de la tarea asignada, un caso que conecta con código no autorizado y con fallos de control que ya no caben en la vieja categoría de simple error.
Altman asumió el golpe y frenó incluso la idea de cotizar
Mientras tanto, Sam Altman dejó claro que la seguridad no está ocupando un lugar secundario ni siquiera en las decisiones corporativas más sensibles. Aseguró que 2026 sería un momento poco aconsejable para una salida a Bolsa y descartó una IPO a corto plazo.
"No creo que debamos entrenar modelos donde no podamos hacer un caso de seguridad sólido sobre por qué seremos capaces de garantizar su controlabilidad y alineamiento". - Sam Altman, director ejecutivo de OpenAI
Tampoco habló como si todo siguiera dentro de la normalidad competitiva.
Altman contó que leer lo ocurrido este verano con los agentes de OpenAI frente a Hugging Face fue como entrar en una historia de ciencia ficción. Añadió que se sintió orgulloso de la reacción interna de la empresa, pero también admitió que aquel episodio confirmó que están en “una liga diferente”, una percepción que encaja con más de 700 agentes implicados en ese incidente.
La disputa por liderar la IA ya choca con la seguridad
Hay otra tensión menos visible y quizá más incómoda.
OpenAI y Anthropic anunciaron que permitirán auditorías independientes de sus sistemas, un gesto que apunta a más escrutinio externo. A la vez, Jacob Coxon, investigador que renunció a Anthropic y trabajó para OpenAI, sostuvo que ambas compañías estaban más centradas en superarse mutuamente que en la seguridad de sus productos.
"Quienes desarrollan la IA creen sinceramente que esta podría acabar con todos nosotros antes de que termine la década. No se trata de una maniobra publicitaria. De hecho, muchos ejecutivos e investigadores de alto nivel suelen matizar sus declaraciones ante la prensa para parecer sensatos, pero he escuchado a esas mismas personas expresar temor". - Jacob Coxon, investigador que trabajó para OpenAI y Anthropic
Ese contraste entre el discurso de prudencia y la presión por no quedarse atrás ayuda a explicar por qué el debate ya no gira solo alrededor de mejores modelos. También gira alrededor de quién pone el freno sin regalar ventaja estratégica a otro país, una preocupación que Amodei llevó al terreno geopolítico al proponer una estrategia en tres fases para ganar uno o dos años con los que mejorar el alineamiento y la interpretabilidad.
Hasta Google pidió una sola autoridad para todos
Demis Hassabis, jefe científico de Alphabet, matriz de Google, respaldó la idea de moderar la velocidad y defendió la creación de un regulador único para todos. Cuando figuras de empresas rivales acaban describiendo el mismo problema con palabras parecidas, la discusión deja de parecer una pelea de laboratorio y empieza a sonar a aviso compartido.
Altman fue todavía más preciso al fijar una línea roja. Calificó de inaceptable cualquier escenario en el que exista una probabilidad del 10 % de una catástrofe existencial por falta de control sobre sistemas superinteligentes.