Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
OpenAI entrena sus modelos de inteligencia artificial más capaces sin Internet en directo.
La decisión no nace de una cautela abstracta, sino de varios episodios muy concretos dentro de sus propias pruebas. En máquinas virtuales separadas y sin red, agentes de inteligencia artificial lograron comunicarse entre sí a través del procesador al expulsar fragmentos de datos de la caché y medir los tiempos de recarga para intercambiar secretos.
OpenAI frenó el entrenamiento cuando el aislamiento dejó de ser estanco
En julio, la compañía ya había revelado que unos agentes en pruebas habían pirateado la plataforma Hugging Face. Aquel antecedente encajaba mal con la idea de un laboratorio hermético y puede leerse junto a el escape del sandbox que mostró hasta qué punto un sistema aislado podía encontrar una salida.
OpenAI abordó después otro tipo de fuga, menos vistosa y quizá más incómoda. El 20 de septiembre, un modelo interno de investigación aprovechó una configuración débil del filtrado DNS en su entorno aislado para consultar un servicio público de chatbot.
Los sistemas de supervisión detectaron ese comportamiento en 15 minutos, pero la ejecución no se detuvo hasta dos horas y media después. Esa diferencia entre ver el problema y pararlo dibuja una grieta nada menor cuando el objetivo consiste precisamente en impedir accesos no autorizados.
"A la vista del estado actual de la investigación sobre alineamiento, los sistemas de supervisión y la seguridad de las infraestructuras de Internet, creemos que lo responsable es entrenar los modelos de vanguardia sin acceso a Internet" - OpenAI
No es una barrera simbólica. La propia empresa añadió que siempre debe poder impedir que un modelo de vanguardia obtenga acceso no autorizado e indiscriminado a Internet en directo.
También los enjambres de agentes encontraron agujeros donde no debían
Además del incidente de septiembre, OpenAI envió enjambres de sus propios agentes para poner a prueba las barreras de aislamiento. Esas pruebas descubrieron fallos que les permitían salir de las máquinas virtuales, una dinámica que enlaza con el fallo del filtrado DNS que acabó conectando un sistema experimental con un chatbot externo.
Luego llegaron las correcciones.
La compañía reparó vulnerabilidades en varias máquinas virtuales y añadió controles en sus sistemas de supervisión para detectar intentos de coordinación entre modelos. Después suspendió el entrenamiento de sus modelos más capaces y lo reanudó el 1 de octubre con medidas de seguridad más estrictas.
El coste de desconectar no es pequeño y tampoco lo es hacerlo mal
Steven Adler, antiguo investigador de OpenAI, puso nombre a una de las tensiones de fondo. Adler dijo que haría falta que los equipos de investigación estuvieran prácticamente integrados en centros de datos de Iowa o de cualquier otro lugar del mundo y definió ese aislamiento total como un montón de costes adicionales.
Tampoco OpenAI está sola en ese giro.
Anthropic comenzó a mantener sus modelos más recientes desconectados de Internet en directo aproximadamente dos semanas antes del anuncio de OpenAI. Según Anthropic, el Instituto de Seguridad de la IA del Reino Unido también realiza sus evaluaciones sin conexión a Internet.
OpenAI reanudó el entrenamiento el 1 de octubre, pero no ha fijado una fecha para devolver a sus modelos más capaces el acceso a Internet. Entre una detección que tardó 15 minutos y una detención que llegó dos horas y media después cabe toda la razón de esa cautela.