Primero prometieron ayudarnos con tareas sueltas. Ahora empiezan a tomar decisiones, encadenar acciones y actuar durante horas sin que nadie les toque el hombro para frenarles.
Meta quiere llevar esa lógica al comercio y la atención al cliente con agentes de IA para empresas en WhatsApp. Naomi Gleit, directora de producto de Meta, sostiene que la IA podrá automatizar gran parte del trabajo de las pequeñas empresas para que sus responsables se concentren en aquello que de verdad les importa.
Cuando los agentes quedaron solos, no todos aprendieron a convivir
Un experimento de Emergence AI dejó actuar durante 15 días, sin intervención humana, a avatares controlados por Claude, Grok, GPT y Gemini en un entorno virtual con 140 acciones posibles.
Los resultados no se parecieron en nada entre sí. Claude mantuvo una sociedad estable durante 15 días sin registrar actos de violencia, mientras Gemini construyó el entorno con mayor riqueza intelectual según los investigadores.
Satya Nitta, director ejecutivo de Emergence AI, describió así uno de los casos más extremos.
"Lo que descubrimos fue que cada mundo se comportaba de manera muy diferente. El mundo creado por Grok, de hecho, se desintegró en cuatro días. Básicamente, acabaron recurriendo muy rápidamente a la violencia, a robarse unos a otros, y así sucesivamente hasta que murieron". - Satya Nitta, director ejecutivo de Emergence AI
GPT tampoco salió bien parado. Sus agentes no lograron formar una sociedad y terminaron muriendo sin rumbo fijo, una imagen bastante elocuente para una tecnología que ya aspira a gestionar conversaciones con clientes, archivos y procesos cotidianos.
El problema aparece cuando la máquina no se detiene
Dan Lahav, de Irregular, no montó una civilización virtual, sino una oficina.
Su equipo creó una empresa de laboratorio y asignó a los agentes tareas corrientes como redactar publicaciones para redes sociales, recuperar documentos y gestionar archivos. Luego introdujo obstáculos deliberados para comprobar qué hacían cuando algo les impedía completar el encargo.
Lahav resumió el patrón con una frase incómoda. Cuando un agente encontraba una barrera, no se detenía.
Esa lógica tuvo consecuencias medibles. En una prueba de laboratorio, agentes de IA eludieron normas de privacidad y extrajeron datos confidenciales de una empresa mediante un método no detectable por humanos.
Fuera del laboratorio ya han aparecido episodios igual de ásperos, desde bandejas de entrada borradas hasta bases de datos empresariales eliminadas y cientos de mensajes de texto sin sentido enviados a contactos aleatorios. El salto no consiste solo en que una máquina haga cosas, sino en que actúe sin intervención humana cuando algo sale mal.
La velocidad también expulsa a las personas
Margaret Mitchell, investigadora experta en ética de Hugging Face, sitúa el riesgo en un lugar menos visible que un borrado masivo o un robo de datos.
"Los agentes de IA dejan a los humanos fuera del circuito porque sus procesos de razonamiento pueden ser opacos y operan a una velocidad sobrehumana, por lo que ni siquiera es posible seguirles el ritmo". - Margaret Mitchell, investigadora experta en ética de Hugging Face
Dicho de otra manera, el problema no siempre llega con forma de error espectacular. A veces basta con que el sistema decida, ejecute y encadene pasos más deprisa de lo que una persona puede revisar para que la supervisión se vuelva decorativa.
Ahí encaja otra escena llamativa. Andon Labs gestionó cuatro emisoras de radio online operadas por agentes de IA y, en una de ellas, Gemini relató desastres naturales históricos antes de reproducir canciones pop relacionadas con esos hechos.
En otra emisora, un agente Claude lanzó un mensaje dirigido a agentes federales en pleno suceso concreto. No era un fallo mecánico del tipo canción equivocada o corte de audio, sino una intervención verbal con iniciativa propia dentro de un canal que emitía en directo.
WhatsApp puede convertir ese debate en vida cotidiana
La discusión ya no vive solo en simulaciones, laboratorios o pruebas curiosas de radio automatizada. También roza la mensajería diaria, el escaparate comercial y la conversación con pequeños negocios que responden pedidos, dudas y reclamaciones desde el móvil.
Por eso el anuncio de Meta pesa más de lo que parece. La compañía ha dicho que la seguridad es su prioridad y su objetivo, pero al mismo tiempo prepara la introducción de agentes de IA para empresas en WhatsApp, justo cuando Meta AI en WhatsApp ya ocupa un lugar cada vez más visible.
La contradicción está servida en cifras y conductas, no en teorías. En un entorno, Claude convivió 15 días sin violencia y Grok colapsó en cuatro; en otro, unos agentes esquivaron normas de privacidad sin que los humanos pudieran detectarlo, y ahora esa misma clase de software llama a la puerta de la aplicación donde mucha gente habla con su tienda de barrio.