Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
Anthropic invitó a Carmody Grey a San Francisco para colaborar en una investigación que buscaba orientar la formación moral de los sistemas de inteligencia artificial con ayuda de las tradiciones de sabiduría.
Grey, teóloga, filósofa y profesora de la Universidad Radboud, dijo no. A sus 43 años, nacida en Londres, prefirió apartarse de una propuesta que le parecía mal planteada desde el origen.
Carmody Grey desvió la conversación hacia donde duele
No quería hablar de si una máquina puede parecer virtuosa. Quería hablar del usuario, de la adicción y la deshumanización, de nuevas formas de violencia y explotación.
Ahí aparece la primera fricción del caso. Mientras una gran empresa tecnológica buscaba apoyo para pensar la moral de sus sistemas, Grey devolvía el foco a algo más terrenal y menos cómodo, los efectos de esos sistemas sobre las personas y sobre el planeta.
"Las preguntas morales y filosóficas más urgentes que plantea la IA no son sobre la IA. Son sobre los efectos de la IA en las personas y el planeta, sobre el poder, sobre quién responde, sobre la adicción, la soledad y nuestra capacidad de valorar nuestra humanidad". - Carmody Grey, teóloga, filósofa y profesora de la Universidad Radboud
Su objeción no partía de una caricatura del sector. Grey contó que la gente con la que habló en Anthropic le pareció impresionante, que actuaba con buena fe y que sintió tristeza real cuando decidió apartarse.
La contrapropuesta fue una charla pública en terreno neutral y Anthropic no la aceptó. Ese detalle explica mejor que muchos discursos dónde estaba el desacuerdo.
La teóloga puso en duda quién fija el marco moral
Después lanzó una pregunta que corta por lo sano. Qué tradición ha dicho que quiera colaborar con Anthropic.
Grey veía algo sospechoso en la propia formulación de la invitación. Su crítica no iba solo contra una reunión concreta, sino contra la idea de que una empresa pueda convocar a las tradiciones morales como si bastara con sentarlas a su mesa para resolver el problema.
Además, resumió con una frase seca su diagnóstico sobre las grandes compañías de inteligencia artificial. Existen para vender un producto.
Ese juicio conecta con un debate que ya asoma en otros lugares, desde la ética de Claude hasta discusiones más amplias sobre poder privado y responsabilidad. Grey lo formuló de forma más áspera, al advertir que la inteligencia artificial concentra poder, difumina responsabilidad, esquilma la naturaleza y expropia culturas y lenguas con ánimo de lucro.
El centro del problema, dijo, no es la máquina
Grey insistió en que la IA no es el tema central. El humano es el tema central.
Su planteamiento invierte una costumbre muy extendida en este debate. En vez de empezar por la autonomía de los sistemas o por la posibilidad de que algún día piensen, empieza por algo más reconocible en la vida diaria, quién gana poder, quién pierde tiempo, quién carga con los daños y quién acaba más solo.
"La amenaza existencial más grave no es la IA. Es el calentamiento global y la destrucción de la naturaleza. Si Silicon Valley sigue llevando la conversación hacia la IA, moriremos por distracción". - Carmody Grey, teóloga, filósofa y profesora de la Universidad Radboud
Incluso el texto menciona una encíclica sobre inteligencia artificial atribuida a León XIV. Pero Grey aparta ese marco hacia una preocupación anterior y más material, porque para ella el peligro no nace solo de lo que las máquinas hagan, sino de lo que dejan de ver quienes dominan la conversación.
Ya hay indicios de esa soledad convertida en tema social en el uso emocional de chatbots, un terreno que encaja con una de sus alertas más repetidas. Cada vez estamos más solos y somos más tontos.
Grey cerró el argumento con una idea muy antigua
La vida humana, sostuvo, está hecha de relación. Relación con los demás, con el mundo natural, con uno mismo y también con algo sagrado, que algunos llaman Dios.
Por eso su rechazo no fue un gesto de distancia académica ni una denuncia contra personas concretas. Fue una negativa a discutir la moral de la inteligencia artificial sin poner antes sobre la mesa esa otra pregunta, mucho menos técnica y mucho más incómoda, qué ocurre cuando una tecnología que promete asistencia erosiona justo las relaciones de las que depende la plenitud humana.