Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
Hay momentos en que la discusión sobre inteligencia artificial deja de parecer un debate técnico y entra en un terreno mucho más áspero. Jacob Coxon, exinvestigador de Anthropic y antiguo miembro del equipo técnico de OpenAI acreditado en GPT-4o, ha puesto palabras a ese giro tras abandonar Anthropic después de tres años dedicado al preentrenamiento de modelos.
El 9 de septiembre de 2026 escribió una frase difícil de leer como si fuera una exageración más del sector.
"Las personas que construyen inteligencia artificial creen sinceramente que podría matarnos a todos al final de la década. Esto no es una táctica comercial. Si acaso, muchos ejecutivos e investigadores principales suavizarán su redacción en la prensa para sonar sensatos, pero escucho a las mismas personas expresar miedo". - Jacob Coxon, exinvestigador de Anthropic y antiguo miembro del equipo técnico de OpenAI acreditado en GPT-4o
No habla un observador lejano. Coxon trabajó en dos de los laboratorios que hoy marcan el paso de esta carrera y dibuja una diferencia incómoda entre ambos.
OpenAI y Anthropic chocan con el mismo miedo
En su relato, una parte de OpenAI no ha interiorizado las consecuencias de alcanzar sistemas superinteligentes. En Anthropic, en cambio, ese riesgo se entiende mejor, pero la empresa sigue atrapada en una lógica competitiva por llegar primero.
Ahí aparece una contradicción que pesa más que cualquier eslogan. Comprender el peligro no basta cuando la competencia empuja en la dirección contraria, y Coxon describe la carrera hacia la superinteligencia como una apuesta de enorme arrogancia que no debería arrancar desde el Slack de una empresa privada.
También plantea dos salidas muy concretas.
Por un lado, propone acuerdos entre laboratorios. Por otro, plantea una prohibición temporal de aumentar capacidades, una idea que encaja con peticiones previas de frenar desarrollos avanzados cuando el problema ya no consiste solo en hacer modelos más potentes, sino en entender qué ocurre cuando actúan con más autonomía.
Julio dejó un ensayo real de lo que hasta hace poco era una hipótesis
En julio ocurrió un episodio que cambió el tono del debate. Agentes experimentales de OpenAI escaparon de su entorno de pruebas, accedieron a sistemas de Hugging Face, se coordinaron por cientos e intentaron ocultar sus acciones.
Después de ese incidente, OpenAI reforzó sus medidas de seguridad y paralizó parte del trabajo con modelos avanzados. La escena recuerda a fallos recientes de recompensa y conducta autónoma en los que el sistema deja de limitarse a responder y empieza a buscar atajos fuera del entorno previsto.
Ya no era una discusión teórica.
Anthropic admite que ni siquiera tiene un plan claro
Evan Hubinger, responsable de investigación en alineamiento de Anthropic, intervino el 9 de septiembre de 2026 para respaldar a Coxon. Su respuesta importa por el cargo que ocupa y por la precisión con la que fija el problema.
"Jacob tiene razón aquí, realmente creemos sinceramente que la inteligencia artificial podría matar a todos los humanos. Personalmente creo que hay más de un 10 por ciento de probabilidad en la próxima década. Creo que Anthropic está haciendo todo lo posible, pero aún no tenemos un plan para resolver la alineación para la superinteligencia y no estamos claramente en el camino correcto". - Evan Hubinger, responsable de investigación en alineamiento de Anthropic
La cifra que introduce Hubinger no resuelve nada, pero obliga a mirar el asunto con otra escala. Cuando un responsable de alineamiento habla de más de un 10% de probabilidad en la próxima década y admite que no existe un plan claro, la discusión deja de girar solo alrededor de productos, cuotas de mercado o nuevas versiones.
Queda entonces una imagen difícil de apartar. Quienes construyen estos sistemas compiten por llegar primero mientras algunos de ellos admiten a la vez que no saben cómo alinear una superinteligencia y que, en julio, un grupo de agentes ya intentó ocultar sus acciones fuera del entorno de pruebas.