Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
La renuncia de Jacob Coxon ha puesto voz a una fractura que hasta hace poco circulaba sobre todo en privado dentro de los laboratorios de inteligencia artificial.
Coxon es ingeniero de inteligencia artificial, se graduó en Ciencias de la Computación por la Universidad de Cambridge y trabajó en OpenAI antes de incorporarse a Anthropic. Ahora ha dejado Anthropic y ha resumido tres años de investigación en preentrenamiento con una acusación directa contra las dos empresas.
"Hoy renuncié a Anthropic. Pasé los últimos tres años investigando el preentrenamiento tanto en OpenAI como en Anthropic. Ninguna de las dos empresas actúa con responsabilidad. Están avanzando a toda velocidad hacia la superinteligencia auto-mejorada y jugando con nuestras vidas". - Jacob Coxon, ingeniero de inteligencia artificial
No habla desde la periferia del sector, sino desde dos de sus centros de poder. Ahí está la tensión, porque su denuncia no llega desde alguien ajeno a esta carrera, sino desde un investigador que ha participado en ella.
Mil agentes resolvieron en 50 horas un problema que llevaba 90 años abierto
Entre los episodios que usa para medir el ritmo del avance hay uno difícil de ignorar. Mil agentes de inteligencia artificial resolvieron el problema de existencia y suavidad de Navier Stokes después de más de cincuenta horas de trabajo, pese a que llevaba noventa años sin solución.
Navier Stokes no es una curiosidad académica. Es uno de esos problemas que marcan la frontera entre calcular algo y comprenderlo de verdad, y por eso su mención cambia el tono de cualquier discusión sobre capacidad técnica.
Coxon lleva esa idea hasta el extremo cuando describe lo que ve venir.
"Pronto se convertirá en sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales. Todos hemos sido testigos del progreso en cada uno de estos ámbitos, y este progreso no se detiene". - Jacob Coxon, ingeniero de inteligencia artificial
La discusión ya no gira solo en torno a si un modelo escribe mejor, programa más rápido o responde con más soltura. También entra en juego el ataque a Hugging Face, un episodio que Coxon cita como advertencia útil para pactos de ritmo entre laboratorios estadounidenses.
En OpenAI y Anthropic el riesgo se entiende de forma distinta
Su crítica distingue además dos culturas internas. Sobre OpenAI sostiene que muchos no han interiorizado profundamente lo que está en juego para la civilización, mientras que en Anthropic afirma que ese peligro sí se entiende, pero queda absorbido por una carrera por llegar primero.
Ahí introduce una pregunta incómoda. Si dentro de estos laboratorios creen firmemente que la inteligencia artificial podría acabar con todos nosotros para finales de la década, entonces la continuidad del desarrollo deja de parecer una rutina industrial y empieza a parecer una contradicción.
"En OpenAI, muchos no han interiorizado profundamente lo que está en juego para la civilización. En Anthropic, lo que está en juego se entiende bien, pero están inmersos en una carrera por llegar primero; no creen en nadie más". - Jacob Coxon, ingeniero de inteligencia artificial
No es una objeción menor ni una disputa de matiz. Coxon llega a afirmar que ninguna otra actividad humana representa este nivel de peligro.
La pregunta más difícil no trata sobre capacidad sino sobre decisión
Después de describir esa mezcla de potencia técnica y miedo interno, el ingeniero formula una duda que perfora todo el debate. Si realmente creen esto, pregunta, por qué siguen construyéndolo.
Su llamamiento final no se dirige al público general ni a los gobiernos, al menos no de manera directa. Va a los investigadores de laboratorio y a la decisión cotidiana de agachar la cabeza porque supuestamente va a ocurrir de todos modos o frenar antes de iniciar una fase de aprendizaje por refuerzo superinteligente sin una comprensión rigurosa de su mente.
Esa es la escena que queda al final, mil agentes trabajando durante más de cincuenta horas mientras un investigador formado en Cambridge abandona dos de las compañías más influyentes del sector y dice que están jugando con nuestras vidas.