Un informe sobre inteligencia artificial agéntica acabó convertido en una advertencia sobre algo mucho más básico que la tecnología. Antes de hablar de automatización, conviene comprobar si los casos de uso existieron de verdad.
KPMG incluyó en un documento de octubre, titulado Redefiniendo la excelencia en la era de la IA agéntica, varios casos de estudio falsos sobre adopción de IA en UBS, el Servicio Nacional de Salud del Reino Unido, los Ferrocarriles Federales Suizos y Transport for London. La firma retiró el informe de algunos de sus sitios web el jueves mientras investiga cómo llegó a publicarse.
Las empresas desmintieron usos de IA que nunca aprobaron
UBS fue una de las primeras en reaccionar. La entidad anunció que pediría a KPMG la eliminación de las afirmaciones falsas sobre supuestos agentes de IA aplicados al asesoramiento de inversiones, la gestión de riesgos y la supervisión del cumplimiento normativo.
Un portavoz de UBS zanjó la cuestión con una palabra poco ambigua cuando calificó esas afirmaciones de "imprecisas". En la misma línea, los Ferrocarriles Federales Suizos negaron como "inexacta" la idea de que ya usaran agentes de IA para planificar y reservar viajes.
También Transport for London rechazó el retrato que hacía el informe. Su portavoz describió como "engañosa" la afirmación de que el operador empleaba agentes de IA para predecir y gestionar la congestión, un terreno especialmente sensible cuando afecta a millones de desplazamientos cotidianos.
En Manchester apareció otro matiz que resulta casi más revelador. Un portavoz del sistema de salud indicó que la referencia a una IA capaz de predecir reingresos hospitalarios y automatizar derivaciones no coincidía con el comunicado original, que en realidad hablaba de una herramienta para combatir el cáncer de pulmón.
KPMG recordó una norma que el propio caso dejó en entredicho
La respuesta oficial de KPMG International intentó llevar el problema al terreno de las reglas internas. Ahí entra una contradicción incómoda, porque el mensaje de control llegó después de que circularan ejemplos atribuidos a organizaciones que los desmintieron una a una.
"Esperamos que todos nuestros empleados sigan nuestras directrices sobre el uso responsable de la IA, incluyendo la supervisión humana para validar el contenido y verificar las fuentes independientes" - portavoz de KPMG International
La frase suena casi como un manual de daños en tiempo real. Si algo muestra este episodio, es que la supervisión humana deja de ser un trámite cuando un informe convierte pruebas no verificadas en supuestos casos corporativos.
Edward Tian, CEO de GPTZero, situó el problema fuera del tropiezo puntual. A su juicio, las publicaciones llenas de errores de las grandes consultoras envenenan las fuentes de información y aumentan el riesgo de generar malentendidos, una cadena de contaminación que afecta justo al material con el que luego trabajan otros sistemas de IA.
Los errores no aparecen aislados y ya han llegado a tribunales y despachos
No es un episodio único. En abril, el bufete Sullivan and Cromwell reconoció que un documento presentado en un caso de quiebra contenía imprecisiones generadas por inteligencia artificial, incluidas interpretaciones erróneas del código de bancarrota de Estados Unidos.
Hace un mes, EY también tuvo que retractarse de un estudio por notas a pie de página falsas y otros errores detectados por GPTZero. El patrón empieza a resultar familiar, como si la velocidad para publicar hubiera adelantado a la obligación más vieja del oficio, que no es otra que verificar.
De hecho, el problema conecta con otros episodios recientes sobre sentencias inventadas por IA, donde el fallo no estaba en una máquina autónoma sino en la confianza excesiva de quien decidió no revisar. Cambia el sector, pero no la mecánica del error.
Lo más incómodo del caso es la distancia entre el prestigio de quienes publican y la fragilidad del contenido cuando falla la comprobación. KPMG retiró el informe el jueves, pero para entonces UBS, los Ferrocarriles Federales Suizos, Transport for London y el sistema de salud de Manchester ya habían tenido que negar por su nombre usos de IA que no reconocían.