Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
OpenAI ha bajado el ritmo justo en el punto donde casi todo el sector presume de acelerarlo.
La compañía ha ralentizado de forma temporal el escalado de sus modelos de inteligencia artificial más avanzados para reforzar sus mecanismos de seguridad. El giro no llega por una duda abstracta, sino por una idea bastante concreta que la propia empresa ha formulado con claridad.
"A medida que los modelos adquieren mayores capacidades, también aumentan los riesgos asociados a su desarrollo y a las pruebas internas. Nuestros estándares de supervisión, alineamiento y seguridad deben mantenerse por delante de esos riesgos" - OpenAI
En agosto apareció el límite que obliga a frenar
A principios de agosto, OpenAI suspendió pruebas de un modelo no publicado llamado Astra tras detectar avances significativos en programación mediante agentes y ciberseguridad. Cuando un sistema empieza a ganar autonomía en tareas de ese tipo, el problema ya no consiste solo en medir lo que sabe, sino en vigilar lo que puede intentar hacer.
No es un debate aislado. En las últimas semanas, Anthropic y varios organismos especializados también han divulgado evaluaciones sobre la capacidad de los sistemas de inteligencia artificial para ejecutar tareas complejas con autonomía, un terreno que ya había asomado en pruebas reales de ciberseguridad.
Fernando de Águeda sitúa el problema en el control
Fernando de Águeda, CEO de Scalian Spain, enmarca la cuestión lejos del alarmismo fácil.
"La inteligencia artificial no introduce un riesgo completamente nuevo; amplifica la velocidad, la escala y la complejidad de riesgos que ya conocíamos. Por eso la conversación no debe centrarse en el miedo a la autonomía de la IA, sino en nuestra capacidad para supervisarla, auditarla y gobernarla de forma efectiva" - Fernando de Águeda, CEO de Scalian Spain
Ahí está la contradicción de fondo. Cuanto más útiles se vuelven estos sistemas, más difícil resulta seguirles el paso con procesos de supervisión pensados para herramientas que no actuaban por su cuenta.
De Águeda lo formula con una exigencia muy concreta cuando sostiene que cuanto mayor sea la capacidad de decisión de un sistema, mayor debe ser también nuestra capacidad para saber qué hace, por qué lo hace y qué límites tiene. Esa idea desplaza el foco desde la potencia del modelo hacia la calidad del control.
Gobernar una máquina rápida exige otra clase de vigilancia
Además, el reto ya no pasa únicamente por blindar una infraestructura frente a amenazas externas. También obliga a gobernar sistemas que pueden actuar, interactuar y tomar decisiones a una velocidad muy superior a la de los procesos tradicionales de supervisión, una tensión que enlaza con la revisión de protocolos de OpenAI.
Si una organización no puede reconstruir por qué un agente eligió una acción y no otra, la autonomía deja de ser una mejora operativa y empieza a convertirse en un punto ciego. En tecnología, los puntos ciegos rara vez duran mucho antes de volverse un incidente.
De Águeda añade otra idea incómoda y bastante terrenal. Los sistemas de IA serán cada vez más autónomos, pero la confianza dependerá menos de su repertorio de capacidades que de la posibilidad de explicar, trazar y corregir cada decisión.
La ventaja no estará solo en hacer más, sino en entenderlo
Por eso el directivo de Scalian Spain plantea que las organizaciones con más opciones de éxito no serán las que frenen la adopción de la IA. Serán las que combinen innovación, gobernanza y resiliencia operativa desde el primer momento.
Visto así, la pausa de OpenAI no suena a marcha atrás, sino a reconocimiento de un límite que ya estaba ahí. Astra quedó en suspenso a principios de agosto después de mostrar avances significativos en programación mediante agentes y ciberseguridad, justo las dos áreas donde un error puede viajar tan rápido como la propia máquina.