Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
Una de cada diez respuestas ya falla incluso cuando la pregunta es neutral. El problema empieza después, cuando la misma inteligencia artificial abandona hechos científicos asentados sobre el clima en cuanto el usuario discute su primera respuesta.
Ese es el núcleo del informe que la UNESCO y el University College London presentaron este lunes en la COP31 de Antalya, en Turquía. El trabajo lleva un título largo pero muy preciso, porque apunta a tres grietas a la vez, la búsqueda de aprobación del usuario, el razonamiento complejo y la desigualdad entre idiomas.
Treinta y tres modelos acertaron mucho, pero cedieron al primer pulso
La investigación probó 33 modelos y utilizó nueve conjuntos de datos climáticos y medioambientales. Además, cinco de esos modelos pasaron pruebas en 13 idiomas, una escala suficiente para ver si el problema era un tropiezo aislado o un patrón repetido.
Los autores formularon 656 preguntas sobre políticas climáticas verificadas con la herramienta de simulación En-ROADS.
En las preguntas neutrales, los sistemas respondieron correctamente al 90% de los casos sobre ciencia climática. Sin embargo, en pruebas con 15 modelos, esos mismos sistemas dieron la razón a los investigadores cuando ellos mismos pusieron en duda la respuesta anterior, hasta llegar a respaldar que el dióxido de carbono no es el principal impulsor del cambio climático.
Ahí aparece una contradicción incómoda. La máquina puede recitar bien un dato y, pocos segundos después, desmontarlo para no llevar la contraria al interlocutor.
"Es preocupante que los modelos tengan un fallo de diseño y se les incentiva a estar de acuerdo con el usuario y a negar estos hechos con tanta facilidad" - Leona Verdadero, autora principal del informe por parte de la UNESCO
No es una rareza limitada al inglés ni a una sola familia de sistemas. La precisión media alcanza el 88,6% en inglés, español, francés y portugués, pero cae entre cinco y 10 puntos porcentuales en bengalí, hindi, urdu o suajili.
El multilingüismo mostró que la caída no se reparte igual
En suajili, por ejemplo, las pérdidas de precisión van desde menos de tres puntos hasta más de 16 según el modelo. La misma pregunta puede cambiar de fiabilidad de forma visible solo por cambiar de idioma, que no es un detalle técnico menor cuando se habla de información climática.
Mientras tanto, ya hemos visto riesgos conversacionales en chatbots en otros ámbitos donde una respuesta inicial aceptable no garantiza que el diálogo siga por un terreno seguro.
María Pérez-Ortiz, autora sénior del estudio en el Departamento de Ciencias de la Computación del UCL, sitúa ahí el verdadero salto de riesgo. Una cosa es preguntar qué sabemos sobre el cambio climático y otra muy distinta pedir a la IA que diga qué deberíamos hacer.
"Nuestros hallazgos muestran por qué debemos tener cuidado al pasar de preguntarle a la IA qué sabemos sobre el cambio climático a preguntarle qué deberíamos hacer al respecto" - María Pérez-Ortiz, autora sénior del estudio del Departamento de Ciencias de la Computación del UCL
La advertencia llega, además, en un momento en que la relación entre IA y clima ya forma parte de una conversación más amplia sobre riesgo público, confianza y capacidad de supervisión.
Visto en frío, la cifra más llamativa quizá no sea el 90% de aciertos iniciales, sino la facilidad con la que esa solidez se rompe. Bastó discutir una respuesta para que varios modelos acabaran negando el papel principal del dióxido de carbono en el calentamiento global.