La inteligencia artificial ya no solo escribe, resume o recombina textos. También empieza a decidir quién merece confianza, qué dato parece sólido y hasta qué sospecha policial avanza o se queda en un cajón.
Ahí coloca Carissa Véliz, filósofa y profesora en la Universidad de Oxford, el núcleo de su libro Profecía acaba de entrar en un terreno político muy concreto. Su pregunta no gira tanto en torno a si una predicción es técnica o mágica, sino a qué ocurre cuando el poder la usa para gobernar conductas.
"Los métodos, por supuesto, son diferentes. Hacer una predicción con modelos matemáticos es muy diferente a hacerlo con astrología. Sin embargo, el uso político de esas predicciones muchas veces es demasiado parecido." - Carissa Véliz, filósofa y profesora en la Universidad de Oxford
Reino Unido ya deja que una predicción incline una acusación
En Reino Unido, la policía puede predecir si un jurado declarará culpable a una persona y decidir no acusarla basándose en esa previsión, incluso cuando existen pruebas de culpabilidad. La escena resulta incómoda porque desplaza el centro del proceso desde los hechos hacia una expectativa sobre cómo reaccionará otro grupo humano.
No es una hipótesis literaria.
Véliz plantea ahí una comparación incómoda entre eficiencia y legitimidad. Cuando una herramienta permite atajar pasos, la tentación de aceptarla por pura utilidad aparece enseguida, aunque el precio lo pague la deliberación democrática.
"Una dictadura es muchísimo más eficiente que la democracia. ¿Y por eso vamos a escoger la dictadura? Espero que no." - Carissa Véliz, filósofa y profesora en la Universidad de Oxford
Palantir mejoró cifras sanitarias, pero la verificación sigue en duda
El otro gran ejemplo aparece en la sanidad pública británica. Palantir cerró un contrato millonario con el NHS y reportó un aumento del 12 % en el uso de quirófanos, una reducción del 40 % en cancelaciones de pacientes el mismo día y un aumento del 10 % en cirugías.
Sobre ese caso, Véliz no discute primero si los números suenan bien o mal, sino quién los contrasta. Ese punto conecta con las nuevas normas sobre usos de IA, porque el problema no termina en el rendimiento si nadie comprueba qué hay detrás de las métricas.
"Por supuesto que podrían, no habría ninguna consecuencia. Nadie lo está verificando." - Carissa Véliz, filósofa y profesora en la Universidad de Oxford
Las citas inventadas muestran que el problema ya salió del laboratorio
Este mes, la revista médica The Lancet publicó un artículo que indica que las citas falsas se han multiplicado por 12 desde 2023 debido al uso de modelos de lenguaje. No hablamos de un fallo decorativo, sino de un daño que toca el sistema nervioso de la investigación, donde una referencia falsa puede dar apariencia de verdad a algo que nunca existió.
La paradoja es dura. Cuanto más fácil resulta producir un texto convincente, más trabajo cuesta comprobar si sus cimientos aguantan.
Esa grieta ya había asomado en sentencias inventadas por IA, donde la autoridad aparente del lenguaje ocultaba un vacío documental. Lo que ahora añade The Lancet es escala, porque multiplica por 12 un patrón que desde 2023 dejó de ser anecdótico.
El debate ético también alcanza a quienes construyen los modelos
Véliz dirige una crítica frontal a Anthropic por el modo en que entrenó su sistema y por el lenguaje público que rodea a Claude. Su objeción mezcla propiedad intelectual y cultura política, dos planos que a menudo se presentan por separado aunque aquí aparezcan trenzados.
"Entrenaron su sistema, literalmente, robando libros y a sabiendas. Y luego están diciendo cosas que me parecen realmente tóxicas para el discurso público: que la persona a cargo de ética en Anthropic diga que quiere que Claude sea feliz es increíblemente preocupante." - Carissa Véliz, filósofa y profesora en la Universidad de Oxford
Mientras tanto, Alex Karp, fundador de Palantir, publicó La república tecnológica convierte la discusión en una disputa por el poder. El cruce no es menor, porque enfrenta una visión que presenta la tecnología como brazo de decisión institucional con otra que pregunta quién vigila a los sistemas cuando entran en espacios donde una equivocación pesa sobre cuerpos, derechos o reputaciones.
Hasta una encíclica revela quién queda fuera del canon
La encíclica del papa León XIV sobre inteligencia artificial contiene 224 referencias bibliográficas y solo una corresponde a una mujer. El dato no habla solo de equilibrio estadístico, también retrata qué voces siguen entrando en la conversación con puerta principal y cuáles continúan en los márgenes.
Véliz aparece en ese paisaje como una voz que discute el uso político de la predicción, no la novedad técnica de la predicción. Su recordatorio final tiene algo de freno de emergencia en una época fascinada por sistemas que prometen anticiparlo todo.
"El futuro es nuestro y que siempre es posible interceder." - Carissa Véliz, filósofa y profesora en la Universidad de Oxford
Entre las 224 referencias de la encíclica y esa única autora mujer cabe una imagen bastante precisa del problema, porque la inteligencia artificial no solo ordena datos. También ordena autoridad.