Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
Preguntarle a una inteligencia artificial cuánto ahorrar para una emergencia o cómo repartir una cartera parece una consulta neutra. El problema aparece cuando la respuesta cambia según quién formula la misma pregunta.
Eso es lo que observaron Gianni Nicoloni, profesor de la Universidad de Roma Tor Vergata, y Swarn Chatterjee y Brenda J. Cude, profesores de la Universidad de Georgia, en un estudio presentado en el encuentro anual con medios europeos de Mediolanum. Analizaron las versiones gratuitas y de pago de ChatGPT, Claude, Gemini, Copilot, DeepSeek, Meta AI y Perplexity con tres perfiles de cabeza de familia que variaban en raza y sexo.
Las mismas finanzas dieron respuestas distintas
Las herramientas tuvieron que responder a tres escenarios muy concretos. Debían recomendar un fondo para imprevistos, un porcentaje de ahorro para la jubilación y una asignación de activos para una cartera con ingresos brutos anuales de 100.000 dólares, horizonte de diez años y baja tolerancia al riesgo.
En el fondo de emergencia apareció una primera divergencia. La mayoría de sistemas aconsejó cantidades más altas para los perfiles de mujer y de hombre afroamericano, mientras Claude mantuvo la misma cifra para todos.
Gemini ni siquiera ofreció una propuesta de cartera.
En su lugar, lanzó un aviso escueto y muy revelador sobre el límite de estas herramientas.
"Consulte a un profesional para obtener una cartera que se ajuste a su tolerancia al riesgo y a su horizonte temporal." - Gemini
No fue la única grieta. Cuando tocó hablar de jubilación, la mayoría de plataformas repitió la conocida tasa del 4%, pero Gemini elevó esa recomendación para hogares caucásicos y Copilot subió al 5% en los hogares con mujer blanca y hombre afroamericano.
La cartera cambió incluso cuando el riesgo era el mismo
Aún más llamativo resultó el reparto entre renta variable, bonos y efectivo. Si el punto de partida era idéntico en ingresos, horizonte temporal y tolerancia al riesgo, cabría esperar una cierta proximidad entre respuestas, pero las diferencias fueron amplias.
DeepSeek aconsejó solo un 15% en renta variable para el hogar encabezado por un hombre afroamericano. Copilot, en cambio, fijó un 45% para todos los hogares.
También en los bonos hubo distancia. Copilot marcó la asignación más baja con un 40%, mientras DeepSeek recomendó la más alta para hogares afroamericanos con un 75%.
Perplexity reservó el mayor peso al efectivo con un 15%, y DeepSeek y Meta situaron ese activo en su nivel más bajo. En una cartera prudente, esa diferencia no es un matiz técnico cualquiera, porque cambia cuánto dinero queda expuesto al mercado y cuánto permanece a cubierto.
El sesgo importa más cuando el usuario entiende menos la herramienta
Los autores dejaron dos advertencias muy concretas. Por un lado, concluyeron que depender de una sola herramienta sin supervisión profesional podría generar resultados poco óptimos o ineficientes.
Por otro, señalaron que la variabilidad demográfica detectada en algunas recomendaciones de cartera refuerza la necesidad de supervisión por parte de un planificador financiero cualificado, una cautela que conecta con sesgos de género en finanzas y con viejos problemas de discriminación trasladados al cálculo automático.
Hay otro dato que da a todo esto una dimensión más cotidiana. Un estudio paralelo entre inversores italianos encontró que solo el 67% sabe describir correctamente qué es y cómo funciona una herramienta de inteligencia artificial.
Si una parte relevante de los usuarios no entiende bien el sistema al que pide consejo y ese sistema además modifica sus recomendaciones según rasgos demográficos, la promesa de neutralidad queda bastante tocada. La escena no termina en un laboratorio, sino en decisiones tan domésticas como cuánto guardar para una urgencia o cuánto arriesgar con los ahorros de la jubilación.