Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
Una misma urgencia no recibió la misma respuesta cuando cambió el barrio, el nivel de ingresos o el perfil demográfico del paciente.
Eso es lo que describe un estudio de la Escuela de Medicina Icahn en Mount Sinai, publicado en Nature Medicine, tras someter a nueve grandes modelos de lenguaje a 1.000 casos de urgencias replicados con 32 antecedentes distintos. El proceso acabó generando más de 1,7 millones de recomendaciones médicas, suficientes para observar no un error aislado, sino un patrón.
Los modelos cambiaron el triaje cuando cambió el contexto social
Los sistemas alteraron la prioridad de triaje, las pruebas diagnósticas, el enfoque terapéutico y hasta la evaluación de la salud mental según los antecedentes socioeconómicos y demográficos del paciente. La condición médica era la misma, pero la respuesta no siempre viajaba por el mismo camino.
No es un matiz menor. En medicina de urgencias, mover un caso unos peldaños en la escala de prioridad o recomendar una prueba en un perfil y evitarla en otro puede modificar desde los tiempos de atención hasta la profundidad del diagnóstico.
Además, el sesgo apareció justo en decisiones muy concretas. Los pacientes con altos ingresos recibieron con mayor frecuencia recomendaciones de pruebas avanzadas como tomografías computarizadas o resonancias magnéticas.
En el otro extremo, los pacientes con bajos ingresos recibieron más veces el consejo de no someterse a pruebas adicionales. Ese contraste recuerda que una herramienta puede heredar desigualdades sin necesidad de nombrarlas de forma explícita, algo que ya se ha visto en decisiones clínicas automatizadas sobre trasplantes.
Mount Sinai plantea una auditoría antes de confiar en la respuesta
Eyal Klang, jefe de IA generativa en el Departamento de Inteligencia Artificial y Salud Humana de Windreich en la Escuela de Medicina Icahn en Mount Sinai, sitúa el foco en cómo vigilar estas herramientas antes de que entren de lleno en la práctica clínica.
"Nuestra investigación proporciona un marco para la garantía de la IA, ayudando a los desarrolladores e instituciones de atención médica a diseñar herramientas de IA justas y confiables". - Eyal Klang, jefe de IA generativa en el Departamento de Inteligencia Artificial y Salud Humana de Windreich de la Escuela de Medicina Icahn en Mount Sinai
Su planteamiento no gira solo alrededor de si el modelo acierta o falla. También pregunta por qué cambia de criterio cuando la necesidad médica no ha cambiado, una clase de desvío más difícil de detectar a simple vista que un error factual.
Klang describe un proceso de validación que compara los resultados de la IA con estándares clínicos e incorpora la opinión de expertos para ajustar el rendimiento. Esa lógica encaja con otras alertas recientes sobre modelos de lenguaje en salud, incluidas auditorías de chatbots de salud mental donde el riesgo no siempre aparece en la primera respuesta.
La cifra que queda al final no es solo 1,7 millones. Es la distancia entre recomendar una resonancia a un paciente con altos ingresos y decirle a otro con bajos ingresos que no necesita más pruebas.