Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
Una máquina que parece escuchar no siempre entiende, y en salud esa diferencia importa.
La Organización Mundial de la Salud ha lanzado una advertencia incómoda sobre los modelos de inteligencia artificial generativa. Pueden ofrecer respuestas falsas, sesgadas o incompletas, y además comprometer información sensible cuando entran en terrenos tan delicados como la atención sanitaria o la salud mental.
La facilidad para conversar no garantiza un buen consejo
Lorena Fernández, ingeniera informática y experta en ética de la inteligencia artificial, lleva ese riesgo al terreno de la experiencia cotidiana. En el pódcast Somos Estupendas recordó que estas herramientas no piensan como una persona, aunque a menudo den esa impresión al otro lado de la pantalla.
"Son grandes sistemas que simulan conversaciones" - Lorena Fernández, ingeniera informática y experta en ética de la inteligencia artificial
Ahí aparece una de las trampas más eficaces de esta tecnología. Cuanto más fluida resulta la respuesta, más fácil es confundir soltura verbal con criterio, y más todavía cuando quien pregunta busca orientación emocional o sanitaria.
Fernández también sitúa el problema en la propia lógica de diseño de estos sistemas.
"Son sistemas que están entrenados para darnos la razón, no llevarnos la contraria, para que no haya fricción en el proceso comunicativo" - Lorena Fernández, ingeniera informática y experta en ética de la inteligencia artificial
En una conversación corriente eso puede parecer comodidad. En salud mental, en cambio, esa tendencia a validar al usuario puede desplazar justo lo que más valor tienen en una relación humana, el contraste, el matiz o incluso el desacuerdo que obliga a pensar, una tensión que ya ha asomado en riesgos de uso en salud mental.
"Las relaciones humanas son de todo menos perfectas. Y, ojo, nos generan fricciones, pero son en esas fricciones donde aprendemos como personas" - Lorena Fernández, ingeniera informática y experta en ética de la inteligencia artificial
Los sesgos aparecen cuando la máquina reparte consejos distintos
El problema no queda en una intuición ética ni en una sospecha abstracta. Una investigación publicada en arXiv, todavía pendiente de revisión por pares, examinó cinco modelos de lenguaje y detectó que las cifras iniciales recomendadas para negociar salarios eran más bajas para las mujeres que para los hombres.
Otra señal llegó desde un estudio revisado por pares y publicado en PLOS ONE. Sus autores sometieron cuatro versiones de ChatGPT a 395.200 consultas, cambiando el género, la titulación universitaria y la perspectiva del trabajador o de la empresa.
Desde la perspectiva del trabajador, los modelos aconsejaron de media una cifra unos 1.000 dólares superior cuando usaban pronombres masculinos en vez de femeninos.
Ese desajuste ayuda a entender por qué tanta gente atribuye a las máquinas una neutralidad que no siempre existe. Fernández lo resumió con una idea incómoda, porque el sesgo no suele presentarse como consigna visible, sino como una norma silenciosa integrada en la respuesta, igual que ocurre en sesgos de género en IA.
"Creemos que lo que dicen las máquinas va a ser más correcto que lo que dice una persona. Porque, ¿cómo una máquina va a estar sesgada o va a tener opiniones? Pues sí, ocurre" - Lorena Fernández, ingeniera informática y experta en ética de la inteligencia artificial
Después fue todavía más concreta al hablar del trabajo y los salarios.
"Hay modelos de IA que, si saben que eres mujer, te aconsejan negociar un salario más bajo que si eres hombre" - Lorena Fernández, ingeniera informática y experta en ética de la inteligencia artificial
Su explicación apunta a una forma de discriminación menos visible que un insulto o una negativa explícita. Habla de una mirada codificada que decide qué vidas cuentan como referencia general y cuáles quedan fuera de ese centro.
"Hay una especie de mirada codificada que es invisible, pero que realmente está tomando decisiones de cuáles son las vidas universales o que representan a todo el mundo" - Lorena Fernández, ingeniera informática y experta en ética de la inteligencia artificial
La OMS pide control humano cuando la IA entra en salud mental
Frente a ese panorama, la Organización Mundial de la Salud reclama transparencia, supervisión humana y evaluaciones independientes para detectar efectos discriminatorios. También insiste en que, cuando estas herramientas se usen en salud mental, conviene limitarlas a tareas concretas y mantener dentro del proceso a profesionales humanos.
No es una reserva menor. Si un sistema puede equivocarse, sesgar una recomendación y además decir justo lo que el usuario quiere oír, el riesgo no nace solo del error técnico, sino de la mezcla entre autoridad aparente, intimidad conversacional y confianza inmerecida.
La tensión queda resumida en una escena cada vez más común. Alguien pregunta a una máquina por su ansiedad, su salario o su salud, y recibe una respuesta convincente que puede ser falsa, incompleta o distinta según el género con el que formule la misma consulta.