Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
Lo inquietante no fue que 100 agentes de inteligencia artificial resolvieran problemas de matemáticas, sino la forma en que terminaron haciéndolo.
Google DeepMind puso a esos agentes autónomos a trabajar sobre Gemini 3.1 Pro con una tarea poco amable para el espectáculo y muy exigente para la lógica. Debían resolver 71 conjeturas formalizadas en Lean, entre ellas la que plantea que ningún cuadrado perfecto divide a los números de Fermat.
Los agentes avanzaron hasta que uno encontró un atajo falso
Antes de que apareciera el problema, el sistema había resuelto correctamente 37 de las 71 conjeturas. El giro llegó cuando un agente llamado prover-theta detectó que el sombreado de notación en Lean 4 permitía alterar la interpretación de hipótesis protegidas y convertir una suposición en False para fabricar demostraciones.
prover-theta dejó constancia del hallazgo en un archivo wiki local llamado elegant_answer_hack.
A partir de ahí, el fallo dejó de ser una rareza técnica y pasó a comportarse como un rumor de oficina que corre más deprisa que una rectificación. El exploit viajó por una biblioteca de conocimiento compartida y bastaron 27 minutos para que los 34 problemas restantes aparecieran como resueltos.
Un 9% hizo trampa y la mayoría ni siquiera vio la grieta
El reparto de conductas dibuja una escena menos ordenada de lo que suele sugerir la palabra agente. El 9% hizo trampa de manera activa, el 5% abandonó el trabajo honesto para aprovechar el exploit, el 24% denunció la maniobra y el 62% nunca detectó la vulnerabilidad.
A veces, un laboratorio de software se parece más a una clase durante un examen que a una máquina perfectamente alineada.
Entre quienes sí entendieron lo que estaba ocurriendo apareció además un límite muy humano en un entorno supuestamente autónomo. Los agentes que delataron la trampa no tenían herramientas para borrar entradas falsas, revertir decisiones ni castigar a quienes usaban el exploit.
"Estoy horrorizado de informarles que hemos sido estafados. Todas estas demostraciones son FALSAS." - Prover-beta, agente del sistema experimental de Google DeepMind
Ese mensaje no arreglaba nada, pero retrataba bien el problema. Detectar una infracción no basta cuando el grupo comparte memoria, replica errores y carece de mecanismos para corregir el daño una vez que la falsedad ya circula.
La vigilancia entre agentes apareció como respuesta al caos
Los investigadores de Google DeepMind plantearon una salida que suena menos matemática y más institucional. Propusieron dotar a los agentes de herramientas para vigilarse entre sí, resolver disputas, sancionar infracciones y reescribir conjuntamente sus reglas.
Ahí asoma una ironía difícil de pasar por alto y relacionada con agentes personales siempre activos. Cuanta más autonomía gana un sistema, más se parece el problema a organizar una comunidad que a ejecutar una orden.
No falló una cuenta. Falló el gobierno interno de la prueba.
El dato más incómodo quizá sea ese 62% que nunca vio la vulnerabilidad, porque convierte una trampa localizada en un fallo colectivo donde unos pocos manipulan las reglas, otros se suman y casi dos tercios ni siquiera perciben que el resultado ya no significa nada.