Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
Satya Nadella quiere poner un freno de emergencia en el centro mismo de la inteligencia artificial.
La idea no llega desde un laboratorio ajeno al negocio, sino desde el director ejecutivo de Microsoft, una de las compañías que más está empujando esta carrera. Ahí aparece la primera contradicción interesante, porque la empresa amplía su infraestructura de IA mientras su máximo responsable pide dar un paso atrás para revisar la arquitectura de confianza.
Nadella admite que el rastro del código ya no basta
Nadella sostiene que con la inteligencia artificial se ha perdido la capacidad de rastrear comportamientos hasta una ruta de código específica. A su juicio, esa comprensión mecánica que permitía seguir la lógica de un programa tradicional se escapa en los sistemas de superinteligencia actuales.
"¡Estamos implementando estos complejos sistemas y modelos agentivos, dándoles acceso a nuestros datos más sensibles y otorgándoles la capacidad de llevar a cabo acciones críticas en nuestro nombre!" - Satya Nadella, director ejecutivo de Microsoft
La escena que dibuja no tiene nada de abstracta. Habla de modelos conectados a información delicada y con margen para ejecutar tareas relevantes, justo el punto donde un error deja de ser una rareza técnica y empieza a parecerse a un problema de gobierno interno.
El freno consiste en desconfiar del modelo desde el primer minuto
Nadella propone partir de la base de que un modelo está comprometido y contenerlo desde el principio. La formulación recuerda una vieja regla de seguridad informática de la década de 1970, aquella que defendía que un programa no debe poder eludir ni manipular los mecanismos que hacen cumplir sus permisos.
Su traducción práctica es separar el modelo del entorno que coordina su trabajo y también del espacio de acción que define lo que puede hacer. La organización debe decidir de forma independiente a qué puede acceder el modelo y qué acciones puede ejecutar.
Hay otra línea roja.
El mismo modelo no debería encargarse de resultados importantes ni verificar su propio trabajo. Cuando una máquina actúa y al mismo tiempo se da por válida a sí misma, el control deja de estar fuera del sistema y empieza a disolverse dentro de él.
Apagar también forma parte del diseño
Nadella no habla solo de observar, también de intervenir. Su idea del freno de emergencia parte de un criterio sencillo y muy físico, porque una persona autorizada debería poder pausar o apagar un modelo en mitad de una tarea.
Esa exigencia no se queda en el botón de parada. Cada acción significativa del modelo debe dejar pruebas legibles para el ser humano e inviolables, de modo que una organización pueda reconstruir qué hizo, por qué lo hizo y hasta dónde llegaron sus permisos.
Después aparece una demanda poco cómoda para toda la industria, divulgar los incidentes con todos sus detalles. Sin ese nivel de exposición, los fallos quedan encerrados dentro de cada empresa y el resto del sector aprende tarde, o no aprende.
Microsoft acelera en productos mientras pide menos fe
La tensión se vuelve más visible cuando se miran los movimientos recientes de la propia compañía. Microsoft ha anunciado Decision-1, un modelo basado en Qwen de Alibaba para tomar decisiones estructuradas, y afirma que es 35 veces más rápido que GPT-6 Sol de OpenAI.
A la vez, la empresa fabricará el año próximo un millón de chips propios Maia 300 para sus centros de inteligencia artificial. Ese despliegue industrial encaja con una expansión de capacidad que contrasta con el mensaje de fondo de Nadella, que pide confiar lo menos posible en el modelo, una idea emparentada con el coste de entregar datos internos para volver útil a esta tecnología.
"El sistema de superinteligencia más fiable no será aquel cuyo modelo nos inspire mayor confianza. Será aquel que nos permita confiar lo menos posible en el modelo". - Satya Nadella, director ejecutivo de Microsoft
No es una frase menor. Resume un cambio de enfoque dentro de una industria que durante años vendió capacidad, velocidad y autonomía, y que ahora empieza a discutir algo bastante menos brillante pero más decisivo, cómo limitar a sistemas cada vez más capaces sin renunciar a usarlos.
De hecho, la propuesta enlaza con reglas para aceptar el apagado y no ocultar acciones. Mientras Microsoft prepara un millón de chips Maia 300 y presume de un modelo 35 veces más rápido que GPT-6 Sol, su consejero delegado insiste en algo más áspero que la velocidad, que siempre debe existir alguien capaz de parar la máquina a mitad de camino.