Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
Las grandes tecnológicas ya no buscan solo mejores respuestas para sus asistentes de conversación. También buscan una brújula moral, y por eso Anthropic, Google, Meta, Microsoft y Amazon han abierto conversaciones con sacerdotes, teólogos y filósofos de distintas religiones.
Anthropic confirmó en un comunicado de mayo que se reunió con académicos, clérigos, filósofos y especialistas en ética de más de 15 grupos religiosos y culturales. Representantes de Meta, Google y Amazon hicieron algo parecido en sus encuentros con el Vaticano, mientras Microsoft mantiene un acercamiento activo con distintas tradiciones de fe.
Las máquinas piden respuestas que ningún laboratorio resuelve solo
Chris Olah, cofundador de Anthropic, situó el problema con una frase poco habitual en Silicon Valley durante la presentación en el Vaticano de la primera encíclica del papa León XIV sobre inteligencia artificial.
"Estas no son preguntas que un laboratorio pueda responder. Son preguntas que tradiciones como la suya llevan milenios cargando" - Chris Olah, cofundador de Anthropic
No es una escena menor. Cuando una empresa que diseña asistentes conversacionales admite que necesita siglos de reflexión ajena para decidir cómo debe responder una máquina, queda al descubierto una tensión incómoda entre velocidad técnica y lentitud moral.
Sam Altman, director ejecutivo de OpenAI, había resumido el año pasado esa ambición de otra manera al decir que su asistente debería reflejar "ese promedio ponderado, o lo que sea, de la visión moral de la humanidad". La fórmula suena práctica, pero también plantea una pregunta inmediata sobre quién calcula ese promedio y qué voces pesan más.
La religión no funciona como un menú de reglas intercambiables
Webb Keane, antropólogo de la Universidad de Michigan, recuerda que existe una forma muy convencional de pensar la religión como un libro de reglas.
Esa idea encaja bien con la lógica de un sistema que necesita instrucciones claras, jerarquías y excepciones definidas. Pero las tradiciones religiosas no siempre operan así, y mucho menos cuando entran en juego costumbres, contextos y desacuerdos internos.
Tomoko Masuzawa sostiene que comparar religiones como sistemas equivalentes nació en la academia occidental del siglo XIX. Ese detalle importa porque varias tecnológicas parecen acercarse a la fe como si cada tradición pudiera traducirse a una misma tabla comparativa.
Anthropic quiere amplitud moral, pero ahí aparece otra grieta
En su comunicado de mayo, la compañía explicó que quiere que Claude recurra a una amplia gama de puntos de vista religiosos, seculares y políticos con la misma profundidad y rigor. También dijo que busca un pensamiento acumulado y cuidadoso sobre cómo se forma realmente un buen carácter.
Meghan Sullivan, filósofa de la religión y directora de una iniciativa sobre ética e inteligencia artificial en la Universidad de Notre Dame, describe el ambiente de Anthropic de una forma reveladora.
"La cultura dentro de la empresa se parece a la de un buen campus universitario, con gente muy curiosa intelectualmente" - Meghan Sullivan, filósofa de la religión y directora de una iniciativa sobre ética e inteligencia artificial de la Universidad de Notre Dame
Esa curiosidad puede abrir conversaciones fértiles, pero no resuelve por sí sola el problema de mezclar tradiciones distintas dentro de un mismo sistema. Ya ocurrió algo parecido en debates sobre desplazamiento cognitivo, donde la discusión ética dejó de ser un asunto lateral y pasó al centro del diseño.
Paolo Carozza, integrante de la Junta de Supervisión independiente de Meta, advierte que cualquier tradición viva y sofisticada puede interactuar con otras y absorber conocimiento nuevo con el tiempo. Su reparo aparece después, cuando la inteligencia artificial toma todo eso, lo mezcla y puede terminar sin darle sentido a nada.
El problema no es solo qué valores entran, sino cómo se mezclan
Ahí está el núcleo del asunto.
Una tradición viva cambia de forma orgánica, como señaló Carozza, mientras un asistente conversacional tiende a comprimir posiciones distintas en una respuesta única, pulida y lista para salir en segundos. La comparación sirve para entender el riesgo, porque una cosa es dialogar con muchas voces y otra muy distinta licuarlas hasta volverlas indistinguibles.
Representantes de Meta, Google y Amazon acudieron al Vaticano, y Microsoft mantiene sus propios contactos con distintas tradiciones de fe. La escena revela hasta qué punto el debate sobre inteligencia artificial ya no cabe solo en laboratorios, campus o despachos empresariales, como ya mostraban las reglas del Vaticano para su propia administración.
Anthropic habló con más de 15 grupos religiosos y culturales para decidir cómo debe comportarse Claude. Cuanto más amplia parece esa búsqueda, más visible se vuelve la contradicción entre reunir muchas tradiciones y convertirlas después en una sola voz de máquina.