Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
Apagar una inteligencia artificial potente no siempre significa apagarla al instante.
OpenAI ha desplegado en toda su infraestructura de investigación un mecanismo de desactivación rápida al que llama Sala de Control, pensado para vigilar las cargas de trabajo de sus modelos y cortar su salida cuando aparece un problema de seguridad. La idea responde a una preocupación muy concreta, que el crecimiento de la potencia de los modelos eleva también el coste de reaccionar tarde.
OpenAI admite que el corte todavía tarda 35 segundos
La compañía lo explica sin rodeos.
"A medida que nuestros modelos se vuelven más potentes y los riesgos de seguridad asociados aumentan, resulta cada vez más importante que podamos detectar posibles problemas y detener rápidamente los modelos cuando sea necesario" - OpenAI
Hoy, ese frenazo no es inmediato. El sistema impide que los modelos produzcan resultados 35 segundos después de tomar la decisión de desconectarlos, un margen que en software puede parecer mínimo, pero que en un sistema automatizado deja tiempo suficiente para completar respuestas, encadenar acciones o seguir generando salida.
Ese retraso tiene una causa técnica bien identificada. OpenAI atribuye los 35 segundos a una capa de almacenamiento en caché usada para autorizar inferencias y sostener el volumen de tráfico que necesita su infraestructura.
"El retraso de 35 segundos se debe a una capa de almacenamiento en caché para la autorización de inferencias, necesaria para soportar el volumen de tráfico requerido. Estamos trabajando para reducir este número a cero y así poder finalizar las tareas al instante" - OpenAI
No es un matiz menor. Si un sistema de emergencia existe precisamente para los momentos en que algo falla, la pregunta práctica no es solo si puede cortar, sino cuánto tarda en hacerlo y qué ocurre durante ese intervalo, una cuestión que ya ha aparecido en pruebas de desconexión en OpenAI.
La herramienta intenta seguir en pie cuando otros sistemas caen
Ahí entra una de las piezas más delicadas del diseño. La Sala de Control está construida para seguir funcionando y detener la salida del modelo incluso si otros sistemas fallan o si la propia Sala de Control deja de funcionar, una especie de último freno cuando el resto del tablero empieza a perder piezas.
Además, OpenAI distingue entre su infraestructura de investigación y su plataforma externa de gestión de modelos. En esta última, la empresa sostiene que el control resulta más centralizado y que ya dispone de una capacidad operativa desarrollada para desactivar con rapidez las implementaciones si hiciera falta.
"Nuestra plataforma externa para la gestión de modelos es, por naturaleza, mucho más centralizada, con una capacidad operativa bien desarrollada para desactivar rápidamente las implementaciones de modelos si fuera necesario" - OpenAI
Mientras tanto, la paradoja queda expuesta con bastante claridad. OpenAI ya ha implantado la Sala de Control en toda su infraestructura de investigación, pero el propio sistema que debe servir como botón de emergencia todavía convive con una demora de 35 segundos.
Esa cifra concentra toda la tensión del anuncio. Un mecanismo creado para cortar de raíz ya existe, funciona como red de seguridad y cubre toda la infraestructura de investigación, pero aún necesita medio minuto largo para silenciar a un modelo.