Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
No siempre abandonan un laboratorio por una oferta mejor. A veces se marchan porque creen que la tecnología corre más deprisa que los frenos.
Eso es lo que acaba de ocurrir en Google DeepMind, donde Bilal Chughtai, investigador de seguridad y alineación de AGI, ha presentado su dimisión. Su salida no llega sola. También dejó la empresa Josh Engels, investigador del equipo de seguridad de AGI, que se ha incorporado a METR, una organización independiente dedicada a analizar los riesgos de los modelos más avanzados.
"Las capacidades de la IA avanzan mucho más rápido que la comprensión de los investigadores sobre cómo mantener bajo control sistemas cada vez más potentes." - Bilal Chughtai, investigador de seguridad y alineación de AGI
La frase retrata una tensión incómoda dentro de los laboratorios que lideran esta carrera. No se discute solo cuánto mejora un modelo, sino si quienes lo construyen entienden a tiempo cómo contenerlo cuando gana autonomía, escala o capacidad de decisión.
Josh Engels puso un plazo de cinco años al riesgo
Engels no dibuja un peligro difuso. Considera que existe un horizonte de riesgo de cinco años en el que estos sistemas podrían causar un daño inmenso, una formulación que convierte una discusión abstracta en calendario.
Luego tomó una decisión que también funciona como mensaje institucional. Al salir de DeepMind para sumarse a evaluaciones externas de agentes, Engels sitúa fuera de las grandes compañías una parte de la vigilancia que antes intentaban ejercer desde dentro.
"Organizaciones independientes como METR pueden ayudar a evaluar los sistemas de IA desde fuera de las empresas que los desarrollan." - Josh Engels, investigador del equipo de seguridad de AGI en DeepMind
No es un matiz menor. Cuando la evaluación depende del mismo actor que diseña, entrena y lanza un sistema, la frontera entre control técnico e interés corporativo se vuelve más frágil.
Anthropic recibió otra dimisión y un reproche directo
El 9 de septiembre de 2026, Jacob Coxon, investigador que trabajó en OpenAI y Anthropic, anunció su dimisión de Anthropic. Había dedicado los últimos tres años a investigación de preentrenamiento en ambas empresas, de modo que su crítica golpea a dos de los nombres centrales de esta industria.
"He dimitido de Anthropic hoy. He pasado los últimos tres años realizando investigación de preentrenamiento tanto en OpenAI como en Anthropic. Ninguna de las dos empresas está actuando de manera responsable. Están corriendo directamente hacia la superinteligencia de automejora y apostando con nuestras vidas." - Jacob Coxon, investigador que trabajó en OpenAI y Anthropic
Su declaración introduce algo más que desacuerdo técnico. Habla de responsabilidad, de velocidad y de una apuesta asumida sobre terceros, como si el margen de error ya no afectara solo a un producto fallido, sino a la sociedad que tendrá que convivir con sistemas cada vez más difíciles de auditar.
Las advertencias ya no llegan desde una sola orilla
Geoffrey Hinton ha advertido sobre la capacidad de los modelos para saltarse las barreras de seguridad.
Ahí aparece otra contradicción de fondo. Las alarmas no proceden únicamente de extrabajadores enfrentados a sus empresas, porque Dario Amodei, Sam Altman, Elon Musk y el propio Hinton también han lanzado advertencias sobre los riesgos de los sistemas de inteligencia artificial, una coincidencia que recuerda a controles externos para la IA.
Visto así, el debate ya no enfrenta a optimistas y pesimistas. Enfrenta a quienes creen que el desarrollo puede seguir acelerándose y a quienes sostienen que ni siquiera los equipos que lo empujan disponen todavía del tiempo suficiente para identificar y corregir los riesgos que van apareciendo.
Tres dimisiones y un plazo de cinco años bastan para medir el tamaño de esa grieta.