Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
La salida de Chloé Bakalar deja a OpenAI sin su única especialista en ética.
Bakalar abandonó la empresa menos de un año después de incorporarse en agosto del año pasado. Su marcha se suma a las dimisiones recientes de Johannes Heidecke, jefe de sistemas de seguridad, y Joshua Achiam, antiguo jefe de alineación de misiones.
Ahí aparece una tensión difícil de ignorar. Mientras OpenAI prepara su salida a bolsa tras convertirse en una empresa con fines de lucro, pierde a tres perfiles ligados a la seguridad, la alineación y la ética, tres áreas que en la inteligencia artificial funcionan como freno, brújula y control de daños a la vez.
Bakalar llegó para pensar la ética cuando la empresa ya aceleraba
Durante años, Bakalar trabajó en Meta, donde dirigió programas de ética de IA para Instagram y Facebook. En OpenAI se ocupaba de enfoques éticos para el desarrollo de modelos de lenguaje, de la relación entre humanos e IA y de un debate tan resbaladizo como el de la consciencia artificial.
Su perfil no era marginal. Era la única experta en ética dentro de la compañía.
En esa discusión ya había dejado una idea que incomoda a cualquier organigrama. La ética, venía a decir, no puede depender de una sola oficina ni de una persona a la que todos acuden cuando surge el problema.
"La ética es, en realidad, responsabilidad de todos y lo digo como alguien cuyo trabajo consiste en liderar esta labor, no debería limitarse a acudir a personas como yo, nunca debería haber una sola persona que actúe como centro moral de un desarrollador de IA". - Chloé Bakalar, jefa de ética de OpenAI
La frase tiene una lectura doble. Sirve como defensa de una responsabilidad compartida, pero también retrata una paradoja evidente cuando esa misma empresa había concentrado el puesto en una sola especialista.
OpenAI sostiene que la ética ya está repartida entre varios equipos
La respuesta oficial de la empresa intenta cerrar esa grieta. Un portavoz agradeció las aportaciones de Bakalar y afirmó que la ética de la IA no recae en una sola persona o equipo, sino que está integrada en el proceso de creación de modelos a través de varios grupos de investigación.
Esa explicación encaja con la teoría de cualquier gran laboratorio. El problema es que llega justo después de la salida de la única persona identificada de forma expresa con esa función, y junto al adiós de dos responsables vinculados a seguridad y alineación.
También fuera de OpenAI se mueven piezas parecidas, como mostró el recorte del cómputo para seguridad, un antecedente que volvió más áspera la conversación sobre prioridades internas.
Anthropic mantiene un equipo con nombre y tarea muy concreta
Mientras tanto, Anthropic ofrece una imagen más definida en este terreno. La filósofa Amanda Askell dirige allí el equipo de alineamiento de la IA, encargado de que Claude distinga entre el bien y el mal.
No es un matiz menor. Cuando una empresa asigna esa responsabilidad a un equipo visible y a una responsable concreta, el debate deja de ser una consigna general y pasa a tener estructura, rostro y función.
Sin embargo, la comparación tampoco resulta cómoda del todo. Anthropic redujo a principios de año sus principales compromisos en materia de seguridad, una señal de que la presión competitiva también erosiona las promesas de prudencia, como ya anticipaban las reglas éticas de Claude.
Tres salidas dibujan un problema justo donde más cuesta medirlo
La ética en IA rara vez falla con ruido. Suele hacerlo en decisiones internas, en cambios de prioridades y en quién permanece sentado a la mesa cuando toca decidir qué se construye, qué se lanza y qué riesgos se aceptan.
OpenAI pierde a su única experta en ética mientras también salen el jefe de sistemas de seguridad y un antiguo jefe de alineación de misiones.