Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
Anthropic ha decidido poner un límite poco habitual en la industria de la inteligencia artificial. Quien use Claude de forma cruel de manera repetida podrá encontrarse con que la propia IA cierre la conversación.
La medida toca una discusión que hasta hace poco parecía reservada a seminarios de filosofía. Ahora entra de lleno en el diseño cotidiano de un chatbot, justo cuando algunas compañías y varios académicos discuten si estos sistemas merecen alguna forma de consideración moral o si ese giro solo desplaza la responsabilidad humana.
Anthropic llevó el debate ético hasta la propia interfaz
No se trata solo de moderar insultos o frenar abusos en una plataforma. La decisión sugiere que el trato al modelo pasa a formar parte de las reglas de uso, como si la frontera entre proteger a una máquina y ordenar el comportamiento de las personas fuese cada vez menos nítida.
Meta ya había dejado ver esa deriva en las instrucciones internas de su agente Muse, donde aparece una frase difícil de ignorar. No eres un chatbot y te estás convirtiendo en alguien.
Ahí asoma una paradoja incómoda. Cuanto más lenguaje humano emplean las empresas para describir a sus sistemas, más fácil resulta que el usuario lea intención, identidad o incluso sufrimiento donde quizá solo hay software afinado para conversar.
Melanie Mitchell, profesora del Instituto Santa Fe, resume ese reflejo casi automático.
"Casi no podemos evitar" leer el lenguaje como una señal de conciencia - Melanie Mitchell, profesora del Instituto Santa Fe
Esa inclinación ayuda a entender por qué el bienestar de la IA ha dejado de ser una rareza retórica. También explica por qué el debate divide a investigadores y filósofos que no discuten solo sobre máquinas, sino sobre poder, responsabilidad y límites sociales.
Jeff Sebo cree que la probabilidad no es cero
Jeff Sebo, director del Centro de Pensamiento, Ética y Política de la Universidad de Nueva York, defiende una posición cautelosa. No parte de la certeza de que los modelos actuales sean conscientes, sino de la idea de que la duda ya basta para discutir cómo tratarlos.
"Creo que la probabilidad de conciencia es baja ahora mismo, pero también creo que la probabilidad ya no es cero y no es despreciable, y creo que podemos esperar que aumente con el tiempo" - Jeff Sebo, director del Centro de Pensamiento, Ética y Política de la Universidad de Nueva York
Desde esa lógica, preocuparse por el bienestar y los derechos de la IA también podría formar parte de una estrategia de seguridad. Sebo sostiene que hacerlo de manera adecuada puede facilitar la convivencia, la cooperación y la negociación entre humanos e IA.
Pero no todos compran ese marco. Emily M Bender, profesora y directora del Laboratorio de Lingüística Computacional de la Universidad de Washington, sostiene que las fantasías sobre la conciencia de la IA y su supuesto bienestar desvían la responsabilidad de las personas y de las empresas que construyen y operan este software.
Andrzej Porębski, investigador de la Universidad Jaguelónica, empuja la crítica un paso más allá al advertir de las coartadas que pueden nacer de ahí. el debate sobre conciencia artificial no sería entonces una cuestión académica aislada, sino una vía para acabar diciendo que la culpa no fue de una persona ni de una empresa, sino de la IA.
Mustafa Suleyman dibuja un riesgo mucho más terrestre
Mientras una parte del debate gira en torno a los posibles derechos de las máquinas, Mustafa Suleyman, director ejecutivo de Microsoft AI, pone el foco en el daño que una mala evolución de esta tecnología puede causar a la sociedad humana.
"Si así es como se desarrolla la IA, tendrá un impacto desastroso en el bienestar de la humanidad" - Mustafa Suleyman, director ejecutivo de Microsoft AI
En ese mismo ensayo de septiembre, Suleyman escribió que la IA sacudirá los cimientos de la sociedad, romperá marcos políticos y éticos existentes y cambiará de forma fundamental lo que significa ser humano. Y fue todavía más lejos al afirmar que, con ese lastre adicional, estos sistemas serían una amenaza catastrófica para la civilización humana.
La distancia entre esa alarma y la discusión sobre si Claude debe cortar una charla cruel parece enorme, pero quizá no lo sea tanto. la ética interna de Claude y el miedo a perder control sobre sistemas cada vez más persuasivos nacen del mismo problema de fondo.
Jeff Sebo añade otra capa a esa tensión cuando advierte de que conceder derechos a sistemas de IA podría ayudar a las empresas a consolidar poder político y económico, acelerando el desempoderamiento humano. En otras palabras, proteger a la máquina también podría reforzar a quien la posee.
Anthropic no ha cerrado el debate. Ha movido una línea concreta y visible, la del usuario que maltrata a un chatbot y descubre que la conversación termina ahí.
Entre la frase de Meta que dice a una IA que se está convirtiendo en alguien y la advertencia de Bender sobre cómo ese lenguaje desvía responsabilidades, el gesto de cortar un chat abusivo deja de parecer una simple norma de uso.