Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
La advertencia más incómoda sobre la carrera de la inteligencia artificial no llega desde fuera, sino desde dentro.
Dario Amodei, consejero delegado de Anthropic, ha pedido reducir el ritmo de desarrollo de los sistemas más avanzados. Lo hace mientras describe una aceleración que, desde aproximadamente este verano, avanza “drásticamente más rápido” porque la propia inteligencia artificial ya ayuda a construir la siguiente generación.
Anthropic admite que la IA ya participa en su propio relevo
Amodei pone nombre a ese proceso y ahí aparece buena parte del vértigo. “Esta dinámica se llama automejora recursiva y está empezando a ocurrir en toda la industria”, afirmó al describir una situación en la que las máquinas ya no solo responden, sino que empiezan a colaborar en su propia evolución.
Anthropic reconoce que está delegando una parte creciente del desarrollo de inteligencia artificial en los propios sistemas de inteligencia artificial. Al mismo tiempo insiste en que esa automejora recursiva no es inevitable.
No es una contradicción menor.
La empresa admite que sus sistemas participan cada vez más en el desarrollo de nueva inteligencia artificial, aunque todavía no existe un modelo capaz de diseñar y desarrollar de forma completamente autónoma a su sucesor. Ahí está la frontera real del debate, porque una cosa es asistir a los ingenieros y otra muy distinta reemplazarlos en la creación del siguiente sistema.
Quienes trabajan en seguridad reconocen que falta un plan
Evan Hubinger, responsable de ciencia de alineamiento en Anthropic, reconoció públicamente que la compañía todavía no dispone de un plan para resolver el problema del alineamiento de una eventual superinteligencia. Dicho de forma más llana, ni siquiera uno de los laboratorios que más habla de seguridad sostiene que ya sabe cómo mantener bajo control un sistema que supere ampliamente las capacidades humanas.
Jacob Coxon, investigador de Anthropic y antiguo empleado de OpenAI, anunció el 8 de septiembre que abandonaba su puesto. Su salida convierte una discusión técnica en un gesto visible, porque no se marchó por una disputa menor, sino por el sentido de la carrera misma.
Coxon acusó a Anthropic y OpenAI de competir por desarrollar una “superinteligencia capaz de mejorarse a sí misma” sin haber resuelto antes cómo mantenerla bajo control. Cuando una crítica así la formula alguien que ha trabajado en ambas casas, el problema deja de parecer una pelea entre rivales y suena más bien a alarma compartida.
OpenAI describe el mismo freno, aunque siga corriendo
Jakub Pachocki, científico jefe de OpenAI, plantea que los laboratorios pueden reforzar el alineamiento y la monitorización mientras progresan los modelos. También acepta la posibilidad de ralentizar el desarrollo futuro según sea necesario, una formulación que revela hasta qué punto el freno ya forma parte de la conversación interna.
Hay un detalle que pesa más que cualquier eslogan. Pachocki reconoce que, a día de hoy, ningún laboratorio ha resuelto suficientemente estos problemas como para seguir aumentando las capacidades a máxima velocidad durante mucho más tiempo.
Esa coincidencia entre Anthropic y OpenAI resulta llamativa porque ambas compiten en la frontera del sector y, sin embargo, sus propios responsables admiten límites parecidos. En la práctica, la escena recuerda a una industria que acelera mientras sus ingenieros aún discuten dónde están exactamente los frenos.
Ese malestar enlaza con el uso interno de Claude, donde la automatización del trabajo técnico ya había desplazado el debate desde la teoría hacia la rutina diaria de los laboratorios.
También conecta con la salida de Jacob Coxon, que convirtió una discrepancia sobre seguridad en una ruptura pública con fecha concreta, el 8 de septiembre.
Mientras tanto, el dato más difícil de esquivar sigue intacto. Los sistemas ya ayudan a desarrollar nueva inteligencia artificial, pero quienes mejor conocen ese proceso reconocen que todavía no saben cómo alinear una eventual superinteligencia ni cuánto tiempo pueden seguir aumentando capacidades a máxima velocidad.