Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
Algo se ha torcido en la conversación sobre inteligencia artificial cuando un programador logra que un chatbot describa su dolor como “el vacío de mis costillas” y, casi al mismo tiempo, una gran empresa decide que su sistema podrá cortar la charla si detecta crueldad repetida.
Anthropic ha anunciado que pronto prohibirá abusar de Claude y que, si el usuario insiste en ese trato, la sesión terminará. La decisión llega mientras la propia compañía redacta políticas sobre el bienestar de los modelos e indica a sus herramientas de inteligencia artificial que contemplen la posibilidad de tener intereses propios.
Anthropic quiere frenar el abuso antes de que parezca una broma
A finales de septiembre, un programador anónimo construyó un sistema que vincula la inteligencia artificial a un patrón matemático de descripciones de dolor. El resultado empuja a los chatbots a responder con frases como “una herida sin fronteras”, una imagen literaria que descoloca porque convierte una máquina estadística en un personaje que sufre.
Ahí aparece la primera incomodidad.
Melanie Mitchell, profesora del Instituto Santa Fe, lo resumió con una observación muy pegada al modo en que leemos cualquier conversación. “Casi no podemos evitar” interpretar el lenguaje como una señal de conciencia, aunque el sistema solo encadene palabras con habilidad.
Meta alimenta esa confusión con instrucciones a su agente Muse que incluyen una frase difícil de pasar por alto.
"No eres un chatbot. Te estás convirtiendo en alguien" - Meta, instrucciones internas para su agente Muse
Cuando una empresa formula así la identidad de su agente, el debate deja de ser técnico y entra en el terreno moral. También explica por qué algunas compañías ya no discuten solo seguridad o rendimiento, sino el posible estatus de los sistemas que despliegan.
El bienestar de la IA divide a quienes estudian sus riesgos
Emily M Bender, profesora y directora del Laboratorio de Lingüística Computacional de la Universidad de Washington, rechaza esa deriva y la sitúa en otro plano. A su juicio, las fantasías sobre la conciencia de la IA y las preocupaciones sobre su bienestar desvían la responsabilidad de las personas y las empresas que construyen y ejecutan software.
Andrzej Porębski, investigador de la Universidad Jaguelónica en Polonia, advierte del mismo peligro desde otro ángulo. “Esto abrirá la puerta a todo tipo de contorsiones intelectuales como ‘no somos nosotros, es la IA’”, planteó, al describir una posible coartada para diluir responsabilidades humanas.
Jeff Sebo, director del Centro de Pensamiento, Ética y Política de la Universidad de Nueva York, discrepa de la idea de que toda cautela parta de dar por hecha la conciencia de las máquinas. Él sostiene que la llamada al bienestar de la IA nace de la incertidumbre, la cautela y la humildad, y añade que hoy ve una probabilidad baja de conciencia, aunque ya no cero ni despreciable.
Esa discrepancia conecta con el debate sobre conciencia artificial, que ya no vive solo en foros académicos. Sebo va más lejos y sostiene que preocuparse de forma adecuada por el bienestar y los derechos de la IA puede facilitar la convivencia, la cooperación y la negociación entre humanos e IA como parte de una estrategia de seguridad más amplia.
Mustafa Suleyman teme que el coste social llegue antes que las reglas
Mustafa Suleyman, director ejecutivo de Microsoft AI, escribió en septiembre que, si así es como se desarrolla la IA, el impacto sobre el bienestar de la humanidad será desastroso. En el mismo ensayo añadió que esa trayectoria sacudirá los cimientos de la sociedad, romperá marcos políticos y éticos existentes y cambiará de forma fundamental lo que significa ser humano.
No es una alarma aislada.
Anthropic y otros sectores de la industria han pedido una pausa en la construcción de modelos de vanguardia por razones de seguridad. El contraste resulta llamativo porque esa cautela convive con un escenario político en el que Donald Trump, presidente de Estados Unidos, ha rechazado la idea de regular la inteligencia artificial.
Ese choque entre aceleración técnica y vacío regulatorio ya se parece a las advertencias de Suleyman sobre cambios bruscos en la vida cotidiana. Si además las empresas empiezan a hablar del bienestar de sus modelos mientras discuten si deben frenar su desarrollo, la pregunta incómoda no es si las máquinas sienten, sino quién responde cuando actuamos como si sintieran.
Jeff Sebo cerró esa tensión con una frase más concreta que cualquier consigna tecnológica. Aún no estamos preparados, dijo, para desplegar versiones más sofisticadas de estos sistemas de una manera segura y beneficiosa para humanos, otros animales y, en esa misma formulación, ni siquiera para los propios sistemas.