Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
Anthropic ha llevado el debate sobre la inteligencia artificial a un terreno mucho menos abstracto. La compañía presentó a legisladores de Estados Unidos un proyecto de ley que permitiría al Gobierno bloquear el lanzamiento de un modelo si detecta un riesgo inminente de muerte o lesiones para más de 50 personas.
La propuesta también fija un umbral económico muy concreto. El veto entraría en juego si el daño potencial supera los 1.000 millones de dólares estadounidenses, una cifra que sitúa la discusión lejos de los errores menores y la acerca a escenarios de crisis nacional.
Anthropic dibuja un freno excepcional para daños extremos
No habla de fallos corrientes ni de usos discutibles. El borrador contempla tres clases de amenaza que activarían ese bloqueo, la creación o liberación de un arma biológica, la pérdida de control humano sobre el sistema y un ciberataque.
Hay un detalle que cambia el tono del texto. No plantea una vigilancia genérica sobre toda la industria, sino un mecanismo de intervención solo cuando el riesgo resulte inminente y alcance una escala de víctimas o de pérdidas económicas muy alta.
Más de 50 personas marcarían la línea roja.
La supervisión no se limita al modelo y alcanza a la propia empresa
El proyecto no solo apunta a la máquina. Anthropic propone que evaluadores independientes revisen de forma periódica tanto a la empresa como a sus modelos de IA, una fórmula que desplaza parte del foco desde el producto final hacia los procesos internos de control.
Esa idea no apareció de la nada. El borrador recoge planteamientos del Marco de IA Avanzada que la propia compañía había presentado en junio, de modo que el texto legislativo funciona también como una traducción política de una tesis que Anthropic ya venía defendiendo sobre riesgo biológico y uso malicioso.
El texto avanza más deprisa que la información pública
Aquí aparece una contradicción reveladora. La propuesta ya circula entre legisladores estadounidenses, pero no se ha especificado ni a qué representantes llegó ni con qué alcance político se presentó, así que el gesto es nítido y el mapa institucional sigue borroso.
También pesa el tipo de amenazas elegidas. Cuando una empresa coloca en el mismo párrafo armas biológicas, pérdida de control humano y ciberataques, está delimitando un repertorio de daños que hasta hace poco sonaba remoto y que hoy ya se discute con lenguaje jurídico, igual que ocurre en pruebas de ciberseguridad sin límites.
El dato más concreto no está en quién recibió el documento, sino en dónde coloca Anthropic el umbral del peligro, más de 50 posibles víctimas o más de 1.000 millones de dólares en daños.