Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
La escena resulta incómoda incluso para un sector acostumbrado a exagerar y a corregirse sobre la marcha. En pocos meses, tres personas vinculadas a la seguridad o a la reflexión ética sobre la inteligencia artificial han abandonado OpenAI y Anthropic mientras describen por dentro un clima de prisa, miedo y dudas sobre hasta dónde están dispuestas a llegar estas compañías.
Jacob Coxon dimitió de Anthropic por motivos éticos.
Su caso pesa por una razón concreta. Coxon no habla desde fuera, sino desde dos laboratorios centrales de esta carrera, porque pasó tres años investigando el preentrenamiento en OpenAI y en Anthropic.
"Ninguna de las dos compañías actúa con responsabilidad. Están corriendo a toda velocidad hacia la superinteligencia auto-mejorada y jugando con nuestras vidas". - Jacob Coxon, investigador de Anthropic
Lo llamativo no es solo la dureza de la frase, sino el retrato interno que deja detrás. Coxon sostiene que quienes desarrollan estos sistemas creen firmemente que la inteligencia artificial podría acabar con todos nosotros para finales de la década, una convicción que sitúa el debate fuera del terreno habitual de la competencia empresarial.
Anthropic reconoce el peligro mientras sigue dentro de la carrera
Ahí aparece una contradicción difícil de esquivar. Even Hubinger, líder del equipo de Anthropic, ha confirmado que la compañía considera la inteligencia artificial una amenaza existencial y que no tiene una estrategia clara de mitigación, al tiempo que advierte de que la automejora autónoma de los modelos avanza más rápido de lo que pensaban.
Coxon formuló esa misma grieta con una pregunta sencilla y casi doméstica. Si de verdad creen esto, viene a plantear, por qué siguen construyéndolo.
Su propia respuesta apunta a dos culturas internas distintas. En OpenAI, afirma, muchas personas no han interiorizado a fondo las implicaciones para la civilización, mientras que en Anthropic esas implicaciones sí están claras, pero el equipo actúa bajo la lógica de que debe llegar primero porque no espera responsabilidad ajena, una tensión que recuerda a los frenos retirados en Anthropic.
"Esto no es una estrategia de marketing. De hecho, muchos ejecutivos e investigadores sénior suavizan sus declaraciones en la prensa para que parezcan sensatas, pero en privado oigo a esas mismas personas expresar su temor. Ninguna otra actividad humana representa este nivel de peligro". - Jacob Coxon, investigador de Anthropic
Esa distancia entre el discurso público y las conversaciones internas no aparece solo en una salida. En febrero, Mrinank Sharma, responsable de seguridad de Anthropic, también dimitió y escribió que el mundo se acerca a un punto crítico en el que la sabiduría debe crecer al mismo ritmo que la capacidad de influir en él.
Después añadió algo menos abstracto y quizá más revelador.
"Además, durante mi tiempo aquí, he visto repetidamente lo difícil que es dejar que nuestros valores guíen nuestras acciones. Lo he visto en mí mismo, dentro de la organización, donde constantemente nos vemos presionados a dejar de lado lo que más importa, y también en la sociedad en general". - Mrinank Sharma, responsable de seguridad de Anthropic
OpenAI abrió otro frente cuando la publicidad entró en la conversación
También en febrero, Zoë Hitzig, investigadora de inteligencia artificial, dejó su puesto en OpenAI por sus reservas ante la estrategia publicitaria. Su crítica no giró en torno al rendimiento de los modelos, sino al tipo de intimidad que acumulan cuando millones de personas escriben a una voz conversacional como si hablaran a solas.
"Durante varios años, los usuarios de ChatGPT han generado un archivo de sinceridad humana sin precedentes, en parte porque creían estar hablando con algo que no tenía segundas intenciones". - Zoë Hitzig, investigadora de inteligencia artificial
La imagen es potente porque traduce una cuestión técnica a una escena cotidiana. No hablamos solo de datos de uso, sino de confesiones, dudas y pensamientos íntimos convertidos en registro, un problema que conecta con las recientes salidas en OpenAI.
Hitzig llevó esa objeción un paso más allá cuando advirtió que la publicidad sobre ese archivo de sinceridad puede abrir vías de manipulación que ni siquiera entendemos. Si un buscador sabe qué buscamos, un asistente conversacional sabe además cómo dudamos, qué tememos y qué callamos antes de terminar una frase.
Tres dimisiones dejan la misma pregunta en el aire
No es frecuente que personas de perfiles distintos abandonen empresas rivales y describan un malestar parecido.
Un investigador de preentrenamiento, un responsable de seguridad y una investigadora preocupada por la publicidad coinciden en algo básico. La presión por construir más deprisa choca con la dificultad de sostener límites cuando el producto no solo procesa texto, sino también decisiones humanas, miedos privados y la idea, expresada desde dentro, de que el riesgo podría llegar antes de que termine la década.