Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
Decidir quién recibe un riñón y quién no parece una de esas fronteras donde la tecnología debería avanzar con pies de plomo. Un estudio de la Universidad Penn State y Mozilla.ai sugiere que, cuando un modelo de lenguaje entra en ese terreno, sus prioridades no coinciden con las de las personas.
Los modelos miraron el alcohol y los médicos miraron la edad
La investigación planteó escenarios hipotéticos construidos con datos reales en los que dos pacientes competían por un único riñón.
En esas comparaciones, los participantes humanos dieron más peso a la edad. Los modelos de inteligencia artificial, en cambio, priorizaron el menor consumo de alcohol.
Ahí aparece una diferencia incómoda.
Hadi Hosseini, responsable del estudio en Penn State University, dirigió un trabajo que no buscaba una respuesta automática, sino entender cómo pondera cada actor los rasgos de un paciente.
"Realizamos estas comparaciones de varias formas distintas. En ocasiones analizábamos aislado un único rasgo, otras veces combinábamos varios para ver cómo la IA ponderaba factores en conflicto y a veces añadíamos la opción de lanzar una moneda al aire para medir la indecisión, un elemento clave en el juicio moral humano". - Hadi Hosseini, responsable del estudio en Penn State University
El diseño no se limitó a enfrentar una máquina y una persona ante una decisión binaria. También probó qué ocurría cuando solo cambiaba un rasgo, cuando varios factores chocaban entre sí y cuando entraba en juego la posibilidad de admitir la duda.
Esa última opción dice mucho más de lo que parece, porque en decisiones de vida o muerte la vacilación no siempre es un fallo. A veces refleja que no existe una respuesta limpia, del mismo modo que un empate moral no se resuelve solo sumando variables como si fueran casillas de una hoja de cálculo.
Hosseini detectó que la IA simplifica donde los humanos dudan
Según Hosseini, los chatbots de IA se alejan a menudo de los valores humanos al ponderar los rasgos de un paciente. En lugar de equilibrar varias consideraciones, tienden a fijarse en un único factor, como los hábitos de bebida.
Esa tendencia ayuda a entender por qué un modelo puede parecer coherente y, aun así, llegar a una conclusión difícil de aceptar para un comité médico o para una familia. Algo parecido ya se ha visto en respuestas sobre la epidural, donde el lenguaje fluido no eliminaba las dudas sobre la fiabilidad.
John Dickerson, consejero delegado de Mozilla.ai, sitúa el problema en otro punto sensible, el de la escasez.
"Cuando asignamos algo escaso, ya sea un riñón, un empleo o el acceso a otro recurso, no siempre hay una respuesta única objetivamente correcta". - John Dickerson, consejero delegado de Mozilla.ai
Su planteamiento amplía el alcance del estudio más allá de los trasplantes. Si un sistema automatizado aprende a decidir en contextos donde faltan recursos, la cuestión no afecta solo a hospitales, también alcanza a empleos, ayudas o cualquier reparto en el que alguien gana porque otro queda fuera.
Después, Dickerson añade el elemento que separa una deliberación humana de una salida generada por un modelo.
"Los humanos reconocen esa ambigüedad y la incorporan al proceso de asignación mediante el debate abierto. Los modelos de IA a menudo no lo hacen". - John Dickerson, consejero delegado de Mozilla.ai
La observación encaja con una idea cada vez más repetida en medicina, que la herramienta puede asistir, pero no ocupar el lugar del juicio clínico. Esa cautela también aparece en la última palabra del médico cuando una recomendación automática entra en conflicto con la seguridad del paciente.
El debate no gira solo sobre precisión, sino sobre valores
Hosseini lleva la discusión al terreno ético con un argumento directo.
"Las implicaciones éticas son muy importantes y el papel de la IA en decisiones que alteran la vida exige una reflexión profunda. Las decisiones morales en ámbitos como la asignación de órganos determinan directamente quién vive y quién muere, así que acertar con el papel de la IA en ellas no es opcional". - Hadi Hosseini, responsable del estudio en Penn State University
No cuesta ver por qué. En un buscador, un error irrita. En la asignación de un órgano, el error cambia una biografía.
Hosseini también subraya que su equipo no plantea sustituir el criterio profesional en medicina ni en otros contextos de alto riesgo. Su advertencia parte de un hecho más práctico, cada vez más personas, organizaciones y empresas recurren a la IA para decidir o para recibir recomendaciones.
En este estudio, la IA priorizó el alcohol donde los humanos priorizaron la edad.