Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
Geoffrey Hinton ya no habla como un ingeniero fascinado por lo que ayudó a construir. Habla como alguien que conoce la cocina de la inteligencia artificial desde 1986, cuando demostró la eficacia de la retropropagación para entrenar redes neuronales, y que ahora imagina un equivalente a Chernóbil provocado por software.
A finales de este año o del próximo, dice, podría llegar el accidente que obligue a los gobiernos a tomarse esto en serio.
Hinton sitúa el miedo en la red eléctrica y en los bancos
Antes de la proyección del documental Hinton advirtió que un ataque asistido por IA podría causar una caída de tensión masiva o bloquear durante una semana el sistema financiero. No eligió ejemplos abstractos, sino dos infraestructuras que cualquier ciudadano reconoce en cuanto fallan.
Ahí está la clave de su argumento. El problema no sería una máquina malévola de ciencia ficción, sino un daño concreto que apague ciudades o congele pagos, nóminas y ahorros durante días.
"A finales de este año o el próximo veremos un Chernóbil, y puede que eso sea suficiente para que la gente preste verdadera atención" - Geoffrey Hinton, profesor emérito de la Universidad de Toronto y premio Nobel de Física
Después, Hinton lleva esa imagen hasta la reacción política. Cree que un golpe de esa magnitud haría reaccionar a los líderes mundiales, aunque dejó fuera de esa expectativa a Donald Trump.
En otra de sus intervenciones, Hinton recordó que la sociedad quizá lograría recuperarse de un episodio así. sus advertencias sobre ciberataques encajan con esa misma idea de fragilidad cotidiana, donde el riesgo deja de ser teórico en cuanto afecta a la luz, a la banca o a la confianza pública.
Quien abrió el camino ahora discute adónde conduce
Resulta difícil despachar estas palabras como alarmismo cuando salen de uno de los nombres que ayudaron a levantar el campo. Hinton participó en 2012 en el desarrollo de AlexNet y entre 2013 y 2023 ocupó la vicepresidencia de Google, la empresa dirigida por Sundar Pichai, hasta su salida en mayo de 2023.
En 2024 compartió el Nobel de Física con John Hopfield.
Ese recorrido da otra dimensión a su papel actual. En el documental en el que aparece junto a Demis Hassabis, antiguo compañero suyo en Google, Hinton explica que su reputación lo ha convertido en portavoz y que necesita gastarla por completo en esta causa.
"Tengo una reputación que me convierte en portavoz y necesito gastarla por completo en esto" - Geoffrey Hinton, profesor emérito de la Universidad de Toronto
No es una frase menor. Sugiere que su prestigio, que durante décadas funcionó como aval científico, ahora opera como una especie de capital político para intentar frenar una carrera que él mismo ayudó a acelerar.
Hinton no reparte la culpa por igual entre los jefes de la IA
Más áspero aún fue cuando habló de los dirigentes empresariales. Dijo que no confía en absoluto en Sam Altman y sostuvo que Mark Zuckerberg, Elon Musk y el propio Altman entienden los riesgos, pero prefieren el dinero.
"Creo que Mark Zuckerberg, Elon Musk y Sam Altman comprenden los riesgos y les importan una mierda. Prefieren quedarse con el dinero. Eso es lo que creo" - Geoffrey Hinton, profesor emérito de la Universidad de Toronto
Su acusación introduce una tensión incómoda. Si quienes están más cerca de los sistemas conocen el peligro y aun así mantienen el rumbo, la discusión deja de ser solo técnica y entra de lleno en el terreno del poder y los incentivos.
De ahí que Hinton pida pruebas obligatorias para los modelos más avanzados, evaluaciones independientes y normas comunes entre gobiernos. el debate sobre control y riesgo ya gira en torno a esa misma pregunta, quién examina de verdad herramientas que pueden afectar a millones de personas.
Ni catastrofista puro ni optimista cómodo
Hinton rechaza la etiqueta de catastrofista y mantiene una posición menos simple de lo que suenan sus advertencias. Cree que la inteligencia artificial podría conducir a un futuro maravilloso y a una abundancia radical, pero al mismo tiempo admite que quizá habría sido mejor no desarrollarla nunca.
Esa contradicción explica buena parte del debate actual. La misma persona que ayudó a demostrar en 1986 cómo entrenar redes neuronales y que décadas después impulsó avances decisivos en visión artificial contempla ahora dos imágenes opuestas, una abundancia difícil de igualar y una semana entera con el sistema financiero paralizado.