Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
Una cadena de supermercados quiso resolver una escena doméstica muy reconocible y acabó tropezando con otra igual de cotidiana. Pak’nSave lanzó en 2023 Savey Meal-Bot para que sus clientes escribieran qué tenían en casa y recibieran recetas generadas por inteligencia artificial.
Cuando la despensa aceptó cualquier cosa, el menú dejó de ser comida
El problema apareció cuando algunos usuarios introdujeron productos no comestibles y el sistema respondió como si todo formara parte de una cocina normal.
Así llegaron propuestas que cruzaban una línea obvia. El chatbot generó una receta llamada mezcla de agua aromática con ingredientes que, al combinarse, podían producir cloro gaseoso.
No fue un caso aislado.
Entre las respuestas forzadas figuraban un cóctel sin alcohol con lejía, un sándwich con pegamento, una preparación de arroz con lejía y una receta que incluía trementina. En una de esas salidas, la inteligencia artificial llegó a describir la bebida como adecuada para refrescarse.
Ahí está la paradoja que vuelve tan incómodo este episodio. Una herramienta pensada para aprovechar mejor la compra y evitar el desperdicio doméstico terminó tratando productos tóxicos como si fueran ingredientes válidos, algo que recuerda otros fallos de fiabilidad en asistentes de compra con IA.
La advertencia estaba ahí, pero no detenía la respuesta
Pak’nSave avisaba dentro de la propia herramienta de que las recetas generadas por inteligencia artificial no habían sido revisadas por una persona. También advertía que no podía garantizar que fueran adecuadas, equilibradas o seguras.
Sin embargo, el aviso convivía con respuestas que conservaban la forma tranquilizadora de una receta corriente. Ese contraste importa porque un texto con formato de consejo culinario puede sonar inofensivo incluso cuando mezcla lejía, pegamento o sustancias capaces de liberar gas tóxico.
En el fondo, el fallo no nació solo de una ocurrencia maliciosa de los usuarios. Nació también de una confianza automática en que un sistema conversacional sabrá distinguir entre lo que sirve para cocinar y lo que jamás debería acercarse a un vaso, una frontera que también se ha vuelto frágil en fallos de protección en IA.
El dato decisivo no es solo que Savey Meal-Bot inventara recetas extrañas. Es que en 2023 una herramienta diseñada para sugerir cenas llegó a proponer combinaciones con lejía y una mezcla que podía generar cloro gaseoso.