Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
Satya Nadella no habla de la inteligencia artificial como un sistema al que haya que admirar, sino como uno al que hay que vigilar.
El giro importa porque lo firma el director ejecutivo y presidente de Microsoft, la empresa de Windows, creadora de modelos propios y proveedora de la nube Azure. Mientras la compañía levanta más centros de datos para crear y ejecutar esos modelos, su máximo responsable insiste en una idea menos cómoda que el entusiasmo habitual.
"Debemos asumir que todos los modelos de IA están comprometidos y contenerlos desde el principio" - Satya Nadella, CEO de Microsoft
Microsoft pide observar lo que también está acelerando
No deja de haber una tensión evidente entre ese mensaje y la expansión física de la empresa. Microsoft construye más centros de datos para alimentar su carrera en inteligencia artificial al mismo tiempo que Nadella reclama una estrategia multmodelo en Azure y controles desde el primer minuto.
Ahí aparecen los siete principios que ha defendido. Nadella los enumera con una lógica casi de ingeniería industrial, diversidad de modelos, observación total, verificabilidad, controles independientes, auditoría independiente, contención y divulgación de incidentes.
Su regla más simple también resulta la más severa. Si no se puede observar, no se puede confiar en ello, ha establecido el directivo para marcar el listón de cualquier sistema capaz de actuar en nombre de otros.
Nadella rebaja la confianza y desplaza la responsabilidad
Tampoco plantea un debate abstracto sobre máquinas futuras. Lo que discute es quién responde cuando un modelo toma decisiones, comete errores o ejecuta tareas con apariencia de autonomía.
"No podemos externalizar la responsabilidad de lo que la inteligencia hace en nuestro nombre" - Satya Nadella, CEO de Microsoft
Desde esa posición, la recomendación práctica suena casi austera. Nadella ha pedido confiar en los modelos lo menos posible, una frase que encaja con el coste interno de la IA empresarial, donde el valor no depende solo del software, sino del control que una organización conserva sobre él.
Además, el directivo ha defendido construir sistemas contenidos cuyo comportamiento pueda observarse, cuyos límites puedan ponerse a prueba y cuyas acciones puedan contenerse siempre. Dicho de otro modo, la cuestión no es solo qué sabe hacer un modelo, sino cuánto margen deja para frenarlo.
La frase más dura llega fuera del escenario corporativo
Hace un mes, en la red social X, Nadella escribió que si la IA que construimos no está ayudando a la humanidad y no está bajo control humano, no vale la pena perseguirla. La frase condensa una frontera muy concreta entre capacidad técnica y legitimidad práctica.
Microsoft amplía infraestructura para entrenar y ejecutar modelos de IA, pero su consejero delegado describe esos mismos sistemas como tecnologías que deben partir de una sospecha básica. En esa contradicción cabe buena parte del momento actual, más potencia de cálculo y menos permiso para bajar la guardia.