Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
Un enlace con “chatgpt.com” colado en una nota a pie de página ya bastaría para levantar una ceja.
Eso es lo que ocurrió en uno de los informes de PwC Oriente Próximo revisados por GPTZero, una investigación que describe un patrón más amplio de citas falsas, atribuciones defectuosas y referencias imposibles de comprobar en documentos de supuesto liderazgo intelectual sobre inteligencia artificial y vehículos eléctricos.
GPTZero halló cuatro informes donde las notas no llevaban a ninguna parte
Durante los últimos dos años, GPTZero identificó cuatro informes de PwC Oriente Próximo elaborados con ayuda intensa de IA. Los documentos abordaban desde bots de IA agénticos para empresas hasta recomendaciones para que los gobiernos mejoren servicios públicos, además de predicciones de mercado sobre vehículos eléctricos y autónomos.
El problema no estaba solo en una frase mal rematada.
Las citas enlazaban a páginas web inexistentes o a páginas que no contenían la evidencia prometida, algo especialmente delicado en textos que pretenden orientar decisiones corporativas o públicas. En uno de esos informes, una encuesta de PwC a consejeros delegados de Oriente Próximo, donde el 70% afirmaba que la IA generativa afectará a sus negocios, dirigía al lector a un artículo que ni siquiera mencionaba ese sondeo.
Además, los investigadores determinaron que un artículo académico sobre la calidad del aire en Riad había sido generado por IA. No encontraron rastro ni en la revista ni entre los autores, como si una referencia con apariencia científica hubiera existido solo mientras duró la redacción automática.
Una fuente sobre JPMorgan llevaba a un adolescente con 280 seguidores
Hay errores que parecen una errata y otros que revelan cómo trabaja una máquina cuando nadie la vigila. Entre las referencias apareció un bloguero adolescente con 280 seguidores en Medium citado como fuente sobre una iniciativa de JPMorgan para automatizar la revisión de acuerdos de préstamos.
Ese detalle importa por una razón concreta. La iniciativa de JPMorgan se conoció en 2017, cinco años antes del lanzamiento de ChatGPT, de modo que la referencia no solo era débil, también descolocaba el contexto temporal de la historia.
Paul Esau, investigador de GPTZero, describe otro indicio del mismo problema.
"Esta afirmación no es falsa, pero ningún ser humano citaría el mismo dato tres veces en dos páginas utilizando tres fuentes diferentes". - Paul Esau, investigador de GPTZero
La observación apunta menos al dato aislado que a la huella de fabricación. Quien haya leído controles sobre alucinaciones reconocerá ese patrón de seguridad aparente que, al revisar la base, se deshace enseguida.
PwC ya había visto retractaciones parecidas en otras grandes firmas
No es la primera vez que GPTZero encuentra algo así en la consultoría de élite. Investigaciones previas de la misma firma ya habían provocado que EY y KPMG se retractaran de informes con alucinaciones similares, lo que dibuja un problema menos anecdótico de lo que muchas compañías preferirían admitir.
PwC Oriente Próximo respondió que “se toma muy en serio la precisión de las investigaciones publicadas y está actualizando un número limitado de citas de apoyo”. También añadió que, “en consonancia con nuestro enfoque sobre una IA responsable, contamos con procesos de control de calidad para la investigación y el desarrollo de contenido que esperamos que todo nuestro personal cumpla”.
La paradoja queda servida en la propia materia de los informes, porque varios de esos documentos explicaban cómo usar bots de IA en empresas o cómo aplicar estas herramientas en servicios públicos, justo mientras sus propias notas a pie de página ofrecían el ejemplo contrario. No hace falta una acusación grandilocuente cuando una URL con “utm_source=chatgpt.com” ya cuenta buena parte de la historia.