Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
La promesa de una IA cada vez más barata convive con una factura que apunta en la dirección contraria.
Gartner calcula que el coste por token de los grandes modelos de lenguaje caerá un 95% hasta 2030, pero también prevé que los costes de inferencia de los flujos de trabajo con agentes se multiplicarán por más de cinco en los próximos dos años. Ahí aparece la contradicción que recorre hoy buena parte del negocio de la IA, porque pagar menos por cada pieza mínima de texto no garantiza gastar menos cuando la máquina empieza a encadenar decisiones, comprobaciones y tareas.
Gartner ve una deflación aparente mientras la factura real sube
Will Sommer y Sabine Zimmerhansl, analistas de Gartner, describen ese fenómeno con una fórmula incómoda. El mercado está dominado por una ilusión de deflación de tokens, escriben, porque el ritmo de innovación está superando a la propia curva de costes.
"El ritmo de innovación está superando a la curva de costes" - Will Sommer y Sabine Zimmerhansl, analistas de Gartner
No cuesta lo mismo pedir una respuesta breve que poner en marcha una cadena de acciones. Gartner ejecutó 12 tipos de modelos de IA y situó el coste de los flujos básicos en unos 0,05 dólares por token de inferencia, frente a 0,10 dólares en tareas de síntesis y recuperación de conocimiento, 0,30 dólares en flujos complejos y 0,40 dólares en planificación y aprendizaje.
Esa escalera de precios ayuda a entender por qué el debate ya no gira solo alrededor del modelo, sino también de la clase de trabajo que se le asigna. En ese terreno encaja bien el coste de los tokens, que deja de ser un detalle técnico cuando cada interacción abre nuevas llamadas internas.
Un agente responde antes, pero puede costar 150 veces más
Los agentes de atención al cliente reducen los tiempos de respuesta un 99%.
Ese recorte convive con otra cifra mucho menos amable, ya que los agentes de IA avanzados pueden costar hasta 150 veces más por una sola tarea que un chatbot básico. La diferencia recuerda a la de contratar a alguien para contestar una pregunta o para gestionar una oficina entera sin levantar la vista del reloj.
Sommer y Zimmerhansl sitúan el problema en la propia arquitectura de estos sistemas. Para funcionar como agentes, escriben, deben validar por sí mismos la precisión de sus resultados y además necesitan comunicarse con otros agentes.
"Deben ser capaces de validar la precisión de sus resultados sin que sea necesaria la intervención de un humano" - Will Sommer y Sabine Zimmerhansl, analistas de Gartner
Cuando una herramienta no solo responde, sino que revisa, compara, consulta y delega, el número de pasos crece con rapidez. Ese aumento ya ha aparecido en el coste real de usar agentes, donde una cadena de acciones disparó el consumo muy por encima de la expectativa inicial.
El razonamiento consume más hardware, más inferencia y muchos más tokens
Entrenar modelos de agentes de tamaño medio con capacidades de razonamiento avanzadas cuesta 2,5 veces más en hardware que entrenar chatbots sencillos. A eso se suma una inferencia cinco veces más cara y una demanda de tokens entre cinco y 30 veces superior.
Ahora bien, la presión no llega solo del entrenamiento, que suele concentrar la atención pública, sino del uso continuo. Los propios analistas piden imaginar qué ocurre cuando una empresa ejecuta cientos de agentes capaces de completar docenas o cientos de tareas cada hora, porque ahí el consumo deja de parecer lineal y empieza a comportarse como una suma de pequeñas fugas abiertas al mismo tiempo.
"Los costes aumentarán inevitablemente y, a medida que lo hagan, no hay garantía de que el valor crezca de forma proporcional" - Will Sommer y Sabine Zimmerhansl, analistas de Gartner
La advertencia va al centro de la cuenta de resultados. Sommer y Zimmerhansl añaden que el retorno de la inversión de cada nueva generación tecnológica llegará con mucho esfuerzo, una forma bastante directa de decir que automatizar más no equivale siempre a rentabilizar mejor.
Su conclusión más áspera apunta a las decisiones de diseño. Recurrir por defecto a una inteligencia autónoma genérica, sostienen, empuja a costes ilimitados y de un orden de magnitud superior a los de productos optimizados, una diferencia que empieza en una tarea concreta y termina en la factura mensual.