Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
Jacob Coxon ha dejado Anthropic apenas unos meses después de llegar desde OpenAI, y su salida añade una grieta incómoda en el corazón de la carrera por la inteligencia artificial.
Tenía 27 años, estudió Matemáticas y trabajaba en el entrenamiento de nuevos modelos. A principios de este año cambió OpenAI por Anthropic, pero ahora se marcha mientras crece el tono de alarma dentro de las propias empresas que construyen estos sistemas.
Las advertencias ya no vienen desde fuera
Coxon no ha rebajado el mensaje al irse. Afirma que vamos camino de escenarios agresivos en los que, a finales del próximo año, las cosas podrían estar ya fuera de control.
"Vamos camino de que se cumplan muchos de los escenarios más agresivos, en los que a finales del próximo año las cosas podrían estar ya fuera de control". - Jacob Coxon, investigador especializado en entrenar nuevos modelos de inteligencia artificial en Anthropic
No es una voz aislada ni una excentricidad de despedida. Dario Amodei, consejero delegado de Anthropic, lleva tiempo advirtiendo sobre los riesgos de modelos capaces de actuar de forma autónoma, y Jakub Pachocki, científico jefe de OpenAI, escribió el domingo que este momento exige una cautela extrema.
Más de 1.000 investigadores firmaron recientemente una declaración que reclama coordinación gubernamental para frenar el desarrollo de esta tecnología.
En esa lista aparecen el propio Coxon, Pachocki y Amodei, una coincidencia que revela hasta qué punto el debate ya no enfrenta solo a reguladores y empresas. También divide a quienes diseñan los modelos desde dentro, como ya ocurrió en otros ensayos de seguridad con IA donde afloraron conductas autónomas difíciles de contener.
OpenAI y Anthropic avanzan mientras piden frenos
La contradicción resulta difícil de ignorar. La semana pasada OpenAI anunció que su último modelo representa una inteligencia artificial general, mientras Sam Altman advirtió ante responsables del G20 en Carolina del Norte que algunas cosas van a salir muy mal en ciberseguridad si nadie actúa con bastante urgencia.
"Creo que algunas cosas van a salir muy mal en materia de ciberseguridad si la gente no actúa con bastante urgencia". - Sam Altman, consejero delegado de OpenAI
Anthropic vive una tensión parecida, aunque con otro telón de fondo. La compañía se prepara para una salida a Bolsa con el objetivo de alcanzar una valoración de dos billones de dólares, al tiempo que su cúpula insiste en los peligros de seguir acelerando.
Ahí aparece una vieja paradoja tecnológica. Quienes más insisten en la necesidad de poner límites son también quienes compiten por construir sistemas cada vez más capaces, una carrera que ya se ha contado al medir la presión regulatoria sobre Anthropic mientras crecen sus aspiraciones financieras.
La fuga de talento también cuenta una historia
No solo cambian los discursos. También se mueven las personas, y eso a menudo dice tanto como un comunicado.
Otro investigador de seguridad de Anthropic ya dejó la empresa a principios de este año para estudiar poesía. El contraste parece casi literario, pero habla de un clima en el que parte del talento técnico no solo discute los riesgos, sino que decide apartarse de ellos.
Coxon llevó esa incomodidad a una imagen muy concreta, casi cinematográfica, al comparar el desarrollo actual de la inteligencia artificial con el Proyecto Manhattan y lamentar que decisiones de ese calibre se estén tomando en los MacBook de ingenieros que viven en San Francisco.
"Es bastante demencial que esto tenga que ocurrir en los MacBook de unos ingenieros que viven en San Francisco, en lugar de en un búnker en el desierto como aquel en el que desarrollaron el Proyecto Manhattan". - Jacob Coxon, investigador especializado en entrenar nuevos modelos de inteligencia artificial en Anthropic
Mientras tanto, en Washington ya se mueve una respuesta más brusca. La semana pasada el senador Bernie Sanders y el representante Greg Casar presentaron una iniciativa para prohibir permanentemente la superinteligencia y paralizar el desarrollo de nuevos modelos.
Entre la salida de un matemático de 27 años, la firma de más de 1.000 investigadores y una empresa que aspira a valer dos billones de dólares, la escena queda resumida en una pregunta incómoda que nadie parece haber resuelto todavía.