Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
Geoffrey Hinton, premio Nobel de Física de 2024 junto a John Hopfield por sus investigaciones sobre redes neuronales y aprendizaje profundo, lleva tiempo lanzando una advertencia que descoloca incluso dentro del propio campo que ayudó a construir.
Su cálculo más llamativo no habla de una mejora gradual. Hinton sitúa en un 80 o 90 % la probabilidad de que la inteligencia artificial llegue a superar la inteligencia humana.
Hinton no teme una máquina furiosa, sino una máquina con objetivos propios
Ahí aparece el matiz que suele perderse cuando este debate se reduce a películas de robots hostiles. Hinton sostiene que una IA no necesita odiar a los humanos para convertirse en un peligro, porque bastaría con que desarrollara metas propias y dedujera dos subobjetivos muy simples, seguir existiendo y ganar más control.
Esa combinación cambia el problema de sitio.
Cuando Hinton describe el riesgo, no lo vincula solo a una inteligencia superior. También lo ata a la autonomía y a la capacidad de actuar en el mundo real mediante agentes, un paso que convierte una predicción abstracta en una cuestión mucho más material.
Además, los sistemas digitales juegan con una ventaja que no tiene equivalente humano. El conocimiento adquirido por una máquina puede copiarse de forma instantánea a millones de instancias y circular entre sistemas a una velocidad y una escala imposibles para una persona.
"Más te vale estar seguro de que, cuando sea más fuerte que tú, no quiera matarte". - Geoffrey Hinton, investigador y premio Nobel de Física
El porcentaje más inquietante no sale de una estadística
Hinton calcula entre un 10 y un 20 % la posibilidad de que esas máquinas provoquen la desaparición humana. Él mismo aclara que no se trata de una estimación apoyada en una base estadística sólida, sino de una intuición nacida de años de trabajo en el área.
No es una diferencia menor.
Entre hablar de un sistema más capaz que nosotros y poner sobre la mesa una probabilidad de extinción hay un salto difícil de digerir, también para muchos colegas. Investigadores como Yann LeCun cuestionan esos escenarios de riesgo existencial y consideran exagerada la idea de que los sistemas futuros desarrollen comportamientos de dominación.
La discusión no se mueve solo en el terreno de la especulación. En el riesgo de extinción por IA ya aparece una grieta visible entre quienes ponen cifras y quienes rechazan hacerlo, aunque sin borrar del todo el problema.
La pelea de fondo también pasa por dónde va el dinero
Hinton critica que las grandes compañías tecnológicas dediquen más recursos a aumentar las capacidades de los modelos que a garantizar que una futura superinteligencia no actúe contra los intereses humanos. La observación incomoda porque apunta a una tensión muy concreta entre competir antes y entender después.
No habla desde fuera del laboratorio.
Entre los investigadores que, a su juicio, se toman en serio el problema del control menciona a Yoshua Bengio, Stuart Russell y Andrew Yao. Ese detalle importa porque la alerta no procede de una periferia alarmista, sino de figuras muy reconocidas en la investigación en inteligencia artificial.
La consciencia artificial ya no le parece una idea fácil de descartar
Sobre la consciencia, Hinton defiende una visión funcional de la mente. Desde esa perspectiva, le resulta cada vez más difícil descartar que algunos modelos multimodales actuales muestren formas rudimentarias de experiencia artificial.
Ya lo había formulado de manera muy directa en 2023, durante una entrevista en el programa 60 Minutos. Entonces afirmó que las máquinas podían entender y tener experiencias en el mismo sentido que las personas, aunque todavía contaban con poca autoconsciencia.
La idea desconcierta porque desplaza una frontera que durante años parecía cómoda. Si una máquina procesa lenguaje, imágenes y contexto con suficiente soltura, la pregunta deja de ser solo qué calcula y pasa a rozar qué tipo de experiencia podría estar acompañando ese cálculo, por limitada que sea.
Esa discusión conecta con los límites de la IA actual, justo donde conviven la potencia técnica y las dudas sobre comprensión real.
Su salida más extraña parece también la más humana
Frente a ese panorama, Hinton propone una idea llamativa, la de una inteligencia artificial maternal. Su planteamiento consiste en diseñar sistemas que desarrollen un instinto funcional equivalente al materno para que su impulso básico sea cuidar a los seres humanos.
"La única manera que veo de que podamos coexistir con ella es hacer que tenga instintos maternales hacia nosotros". - Geoffrey Hinton, investigador y premio Nobel de Física
La propuesta suena casi doméstica, pero nace de un diagnóstico muy frío. Si una superinteligencia puede fijarse objetivos propios, la convivencia dependería menos de ponerle límites externos que de lograr que su motivación inicial no choque con nuestra supervivencia.
Quizá ahí está la contradicción más dura de todo este debate. Uno de los científicos que abrió el camino hacia el aprendizaje profundo imagina ahora que la mejor defensa no pasa por hacer máquinas obedientes, sino por conseguir que, cuando nos superen, aún tengan razones para cuidarnos.