Una inteligencia artificial puede resumir un texto, clasificar imágenes o mantener una conversación durante minutos. Aun así, tropieza con algo que para una persona resulta casi automático. Ver unos puntos de luz en movimiento y entender que ahí hay un cuerpo humano.
Ese contraste aparece en un estudio de la Universidad de California en Los Ángeles, que cuestiona una idea cada vez más extendida. Procesar mucha información no equivale a comprender el mundo del modo en que lo hace un ser humano.
Los modelos reconocen patrones, pero no viven lo que interpretan
Los investigadores de la UCLA plantean una diferencia de fondo. Las personas no leen la realidad solo con la vista o la memoria, sino también con el cuerpo, las emociones, el cansancio y la sensación de riesgo.
Una máquina, en cambio, trabaja sobre regularidades estadísticas aprendidas a partir de cantidades masivas de datos. El estudio sostiene que la IA actual procesa información sin comprender realmente el mundo, y esa distancia importa más de lo que parece cuando el sistema debe actuar fuera de un entorno controlado.
Ahí entra una palabra menos habitual que chatbots y algoritmos, pero bastante útil para entender el problema. La encarnación describe hasta qué punto una inteligencia artificial no solo calcula, sino que además está situada en un mundo y afectada por él.
La prueba de los puntos luminosos dejó un fallo difícil de ignorar
En una de las observaciones citadas por los autores, algunos modelos avanzados no reconocieron una figura humana en movimiento cuando esta aparecía representada solo por pequeños puntos luminosos. En lugar de ver un cuerpo andando, llegaron a describir la escena como un conjunto de estrellas.
La imagen resulta reveladora porque para una persona basta muy poco contexto para identificar ese movimiento. Algunos sistemas vieron estrellas donde había una figura humana en marcha, una confusión que resume bien la distancia entre detectar formas y captar significado.
El trabajo distingue además dos niveles de encarnación. La externa alude a la capacidad de interactuar con el mundo físico mediante sensores, cámaras o robots.
Más difícil todavía resulta la encarnación interna, que no consiste en añadir ojos o brazos mecánicos. Consiste en que el sistema registre estados equivalentes al cansancio, la incertidumbre o la necesidad de parar antes de seguir respondiendo.
Sin límites internos, la prudencia no aparece por sí sola
Los autores advierten de que la falta de autoconciencia funcional no es una rareza filosófica, sino un posible problema de seguridad. Si un sistema no percibe riesgo ni reconoce límites propios, tampoco tiene motivos internos para sospechar que puede estar equivocado.
Esa carencia afecta a algo tan cotidiano como decidir cuándo conviene frenar. Un sistema sin percepción del riesgo no tiene razones propias para actuar con prudencia, ni para detectar que una respuesta puede resultar dañina.
Por eso la propuesta no pasa solo por entrenar modelos con más datos. Los investigadores plantean incorporar mecanismos internos que simulen incertidumbre, carga de procesamiento o señales de autocontrol, rasgos que en los seres humanos influyen de forma constante en cada decisión.
Al fondo asoma una idea incómoda para el entusiasmo tecnológico. Cuanto más se pide a estas herramientas que operen en tareas sensibles, más pesa el hecho de que algunas todavía confundan un cuerpo en movimiento con un puñado de estrellas.