Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
Una frase basta para medir la temperatura del debate. Alex Turner sitúa en una entre tres la probabilidad de que la IA acabe con la humanidad en 10 años.
Turner no habla desde fuera del sector. Fue investigador de Google DeepMind y llevó esa advertencia a la Cumbre Mundial, donde también sostuvo que el futuro depende de lo que hagamos a continuación.
Renunció en julio cuando Google cruzó la línea del uso militar
El pasado mes de julio dejó su puesto después de que Google firmara un acuerdo con el Pentágono para usar su tecnología de IA en asuntos clasificados. Su salida coloca la discusión en un terreno menos teórico, porque mezcla el riesgo existencial con la decisión concreta de llevar estos sistemas al ámbito militar.
Esa tensión ya había aparecido en el uso clasificado de modelos, donde la relación entre laboratorios civiles y defensa dejó de sonar a hipótesis lejana. Cuando un investigador dimite por ese motivo, el gesto pesa casi tanto como sus palabras.
Turner describe un control humano que ya empezó a diluirse
Hay otro detalle que vuelve más áspera su advertencia. Turner afirmó que no hemos creado una IA de ese tipo, pero a la vez describió una rutina de trabajo en la que la gente ya no revisaba personalmente lo generado por la IA.
"La gente ya no revisaba personalmente el trabajo generado por la IA. En cambio, estaban creando otro sistema de IA para monitorizar el primero" - Alex Turner, exinvestigador de Google DeepMind
La escena tiene algo de espejo enfrentado a otro espejo. Un sistema vigila a otro mientras el papel humano retrocede, justo en un campo donde el margen de error no se suele medir solo en productividad, sino también en responsabilidad.
La comparación con tabaco y petróleo empuja el debate fuera del laboratorio
No es una objeción técnica aislada.
"Las grandes tabacaleras mintieron sobre el cáncer de pulmón. Las grandes petroleras mintieron sobre el cambio climático. Y ahora parte de la gran IA dice que estos riesgos son falsos" - Alex Turner, exinvestigador de Google DeepMind
Con esa comparación, Turner desplaza la discusión desde los límites del modelo hasta la conducta de las compañías cuando aparece una amenaza incómoda. La referencia no apunta a un fallo de programación, sino a la posibilidad de negar o rebajar un riesgo mientras el negocio sigue avanzando.
Algo parecido asoma en el riesgo de extinción en DeepMind, donde ni siquiera dentro de la industria la probabilidad baja a cero. La disputa real, entonces, no gira solo alrededor de si el peligro existe, sino de cuánto riesgo se acepta antes de frenar.
Y ahí vuelve la frase más incómoda de Turner. Si el futuro depende de lo que hagamos a continuación, su dimisión de julio y su cálculo de una entre tres no suenan como profecía, sino como una acusación directa sobre cómo ya se está trabajando.