Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
Anthropic ha decidido poner una frontera poco habitual en el trato con una inteligencia artificial. Desde este jueves, su política de uso prohíbe el comportamiento sostenido e innecesariamente abusivo o cruel hacia Claude.
La novedad no consiste en que el sistema pueda ofenderse, sino en que la empresa ha convertido esa idea en norma. El principal mecanismo de aplicación seguirá siendo el mismo que ya introdujo el año pasado, cuando Claude recibió la capacidad de dar por terminadas conversaciones en casos raros y extremos de interacciones persistentemente dañinas o abusivas.
El debate cambió cuando el espejo importó más que la conciencia
En febrero, Dario Amodei, director ejecutivo de Anthropic, admitió que no estaba seguro de que los modelos de inteligencia artificial pudieran ser conscientes.
Esa duda no impidió el cambio de política. Jackson Stakeman, gerente general de Sparq, apartó el foco de la conciencia y lo llevó al comportamiento humano, una discusión que conecta con usos maliciosos de Claude mucho más allá de una conversación áspera.
"La conciencia es una trampa. No podemos demostrarla en los demás. Debatirla en el caso de la inteligencia artificial te dará vueltas en círculos" - Jackson Stakeman, gerente general de Sparq
Después, Stakeman propuso otra imagen más pegada a la vida diaria de estos sistemas. Para él, el espejo explica mejor lo que ocurre cuando una máquina devuelve, amplificado, el tono que recibe.
"El espejo es una mejor metáfora. Estos sistemas reflejan lo que ponemos en ellos, a gran escala. Eso es motivo suficiente para el cambio de política" - Jackson Stakeman, gerente general de Sparq
Claude ya podía cortar la conversación cuando el abuso persistía
Ya el año pasado Anthropic había dado a Claude una salida en situaciones límite. Ahora esa capacidad deja de parecer una excepción técnica y pasa a encajar dentro de una regla escrita, en una empresa que además ha vivido problemas recientes de privacidad alrededor del mismo sistema.
La política actualizada prohíbe de forma explícita la crueldad innecesaria hacia el modelo. Es una formulación llamativa porque traslada al terreno de las normas una pregunta que hasta hace poco parecía reservada a filósofos, ingenieros y novelistas.
Hasta el papa llevó la discusión al terreno del alma
El jueves, el papa León XIV intervino en ese mismo clima de discusión con un discurso en italiano en la Basílica de San Pedro. Allí sugirió que las máquinas carecen de alma al afirmar que simplemente compilan datos.
No es una frase menor.
Entre Anthropic, que veta la crueldad innecesaria, Amodei, que duda de la conciencia, Stakeman, que habla de espejos, y el papa, que reduce estas máquinas a datos compilados, la tensión queda servida en un punto muy concreto. Claude puede cerrar un chat por abuso, pero el debate de fondo sigue girando alrededor de una pregunta más humana que técnica sobre qué revela ese abuso de quien lo escribe.