Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
La discusión sobre cómo frenar una inteligencia artificial peligrosa ya no llega solo desde los reguladores. Anthropic, la empresa responsable de Claude, ha planteado en Estados Unidos un mecanismo para que el Gobierno pueda bloquear los modelos más potentes cuando exista un riesgo inminente y todavía no haya una ley federal que fije ese límite.
La barrera que propone no es difusa.
Anthropic sitúa esa intervención en dos umbrales muy concretos, más de 50 víctimas mortales o heridos de gravedad, o pérdidas económicas superiores a 1.000 millones de dólares.
Washington solo podría actuar si un juez lo autoriza
Ahí aparece un matiz clave, porque la propuesta no entrega un poder automático al Ejecutivo. El Gobierno de Estados Unidos necesitaría antes la autorización de un juez para bloquear el despliegue de esos modelos.
Ese detalle intenta resolver una tensión que atraviesa todo el debate. Por un lado, la Casa Blanca ganaría capacidad para intervenir ante un peligro inmediato y, por otro, esa intervención quedaría sometida a control judicial.
Anthropic también plantea que las empresas pongan a prueba los modelos más potentes y hagan públicos sus resultados. La idea no se limita a exámenes internos, porque la propuesta añade la necesidad de someterlos a una evaluación independiente y de mantener un programa de seguridad sólido.
Ese giro hacia auditorías externas conecta con auditores externos para IA, una discusión que ha dejado de ser técnica para entrar de lleno en el terreno político.
"Nuestra propuesta de regulación también otorga al gobierno federal la capacidad de bloquear o disuadir el despliegue de los modelos más potentes cuando resulte peligroso" - portavoz de Anthropic
La propia empresa ya chocó con ese poder de veto
En junio, Washington obligó a Anthropic a suspender durante casi tres semanas sus modelos de inteligencia artificial más avanzados después de que el Pentágono la vetase. No es una hipótesis remota ni un ejercicio académico, porque la compañía ya ha vivido una interrupción forzada de su actividad.
Visto así, la propuesta tiene algo de paradoja. Una de las empresas más visibles del sector pide reglas para una capacidad de bloqueo que, en la práctica, ya sintió sobre sus propios sistemas.
Mientras tanto, la Administración de Donald Trump mantiene una posición contraria a imponer restricciones a la industria. Su enfoque deja a las empresas sujetas a decretos y compromisos voluntarios, una fórmula mucho más ligera que el esquema de bloqueo judicializado que ahora plantea Anthropic.
El choque está en quién decide cuándo un modelo ya es demasiado peligroso
No se discute solo una cuestión técnica, sino también quién fija el momento exacto en que un sistema deja de ser un producto y pasa a convertirse en un riesgo público. En ese punto, las pruebas previas de seguridad dejan de sonar a cautela empresarial y empiezan a parecer una condición para operar.
La cifra que ordena toda la propuesta sigue siendo esa, 50 víctimas o 1.000 millones de dólares en pérdidas, con un juez entre el laboratorio y el botón de apagado.