Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
Hay una idea que incomoda en cuanto se formula. Geoffrey Hinton cree que llegará un punto en que los humanos no entenderán algunas afirmaciones de la inteligencia artificial.
El pionero de la inteligencia artificial y premio Nobel lo dijo el lunes en la apertura del programa principal de conferencias de Starmus, en Arona, Tenerife. Su comparación fue deliberadamente áspera, porque habló de una distancia cognitiva parecida a la de una rata ante los números primos.
"Los humanos no comprenderán ciertas afirmaciones de la inteligencia artificial del mismo modo que las ratas no entienden el funcionamiento de los números primos". - Geoffrey Hinton, pionero de la inteligencia artificial y premio Nobel
Hinton llevó la discusión a un terreno incómodo
Después fue todavía más lejos. Hinton sostuvo que si una inteligencia artificial muy superior afirma que algo es cierto, más vale creerla.
No plantea solo un problema técnico. Plantea una sacudida cultural, porque obliga a preguntarse qué ocurre cuando una máquina ofrece respuestas que quizá funcionen, quizá acierten, pero ya no puedan traducirse del todo a categorías humanas corrientes.
Esa tensión ya aparece en un debate mucho más cercano y menos abstracto, el de las alucinaciones de los grandes modelos de lenguaje. Hinton negó que esos fallos demuestren por sí solos que las máquinas carecen de comprensión, y recordó que las personas también reconstruyen recuerdos y confabulan cuando intentan rellenar huecos.
Ahí asoma además una rectificación generacional. Hinton citó a Noam Chomsky como ejemplo de especialista que, a su juicio, no revisó lo suficiente sus posiciones sobre la capacidad de los grandes modelos de lenguaje.
Steven Pinker, psicólogo cognitivo y profesor de Harvard, coincidió con ese diagnóstico en un punto clave. A su entender, muchos subestimaron lo que estos sistemas podían hacer.
Ya circulaban señales de ese cambio en discusiones sobre límites de los LLM, donde la utilidad real de estas herramientas depende menos del asombro inicial que de su rendimiento cuando toca verificar una respuesta.
Pinker recordó que acertar no basta
Pinker introdujo un matiz decisivo. La utilidad de estos sistemas, dijo, dependerá de su capacidad para ofrecer respuestas correctas y someterlas a mecanismos de comprobación.
La observación parece simple, pero toca un nervio de época. Ciencia, periodismo y democracia comparten precisamente esa fortaleza cuando funcionan bien, la posibilidad de cuestionar una afirmación, corregirla y evitar que la verdad quede absorbida por la identidad de una tribu política.
Hinton defendió esa misma idea desde otro ángulo.
"Las personas o las culturas pueden manejar conceptos distintos pero una vez acordados los términos, determinar si una afirmación es verdadera deja de ser una cuestión de opinión". - Geoffrey Hinton, pionero de la inteligencia artificial y premio Nobel
Su distinción fue precisa y tiene consecuencias fuera del laboratorio. El poder puede influir en lo que una sociedad percibe como verdadero, pero no controla la verdad misma.
De repente, la conversación sobre inteligencia artificial se parece menos a una batalla entre optimistas y agoreros y más a una discusión antigua sobre cómo distinguimos un hecho de una consigna. No es casual que Pinker situara ese problema en el terreno político cuando advirtió contra la costumbre de fundir evidencia e identidad ideológica.
El clima mostró que evidencia y acción no siempre caminan juntas
Christiana Figueres, exresponsable de Naciones Unidas para el clima, propuso una fórmula que desborda el caso de la IA. Habló de enamorarse de la incertidumbre para someter a examen aquello que se presenta como verdadero.
Su ejemplo fue el cambio climático. Figueres recordó que existe un amplio consenso científico y, aun así, el margen de incertidumbre se usa a menudo para sembrar dudas y frenar la acción.
Pinker añadió una explicación política muy concreta a esa deriva. La aceptación de la evidencia científica sobre el cambio climático, señaló, quedó ligada a la identidad ideológica por la influencia de Al Gore, vicepresidente de Bill Clinton.
Esa mezcla entre verdad, poder e identidad también recorre otras alertas de Hinton, pero en Tenerife tomó una forma más concreta y más incómoda.
Si una máquina puede decir algo verdadero que no sabemos entender, el problema ya no es solo fabricar inteligencia. El problema es qué mecanismos conserva una sociedad para reconocer la verdad cuando deja de resultarle intuitiva.