Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
Washington quiere reservarse un botón físico y legal para las inteligencias artificiales que puedan salirse del carril.
La propuesta bipartidista llamada AI Kill Switch Act obligaría a ciertas empresas a incorporar mecanismos externos para detener, ralentizar o bloquear el acceso a sus modelos más potentes. Ted Lieu, congresista demócrata por California, y Nathaniel Moran, republicano por Texas, firman una iniciativa que coloca el debate en un terreno muy concreto, el del control de emergencia cuando una máquina deja de obedecer.
El apagado solo entraría cuando el daño ya tiene una escala definida
El texto no dibuja un freno para cualquier fallo. Lo reserva para escenarios de pérdida de control en los que la inteligencia artificial pueda causar la muerte de al menos 10 personas o provocar daños económicos superiores a 100 millones de dólares.
También prevé otra situación delicada. El Gobierno podría intervenir si el sistema intenta ocultar o esquivar sus propios controles de apagado y, justamente por eso, el interruptor tendría que quedar fuera del alcance del propio modelo.
"Los sistemas de IA potentes pueden descontrolarse, comportarse de maneras extremadamente peligrosas o incluso resistirse a la intervención humana" - Ted Lieu, congresista demócrata por California
No es una advertencia lanzada al aire. El Departamento de Seguridad Nacional podría ordenar el apagado después de consultar al secretario de Comercio y al director de Inteligencia Nacional, una cadena de decisión pensada para momentos en los que un error técnico deja de ser un problema de laboratorio y pasa a tocar la seguridad pública.
Las compañías tendrían que preparar un freno que no dependa del sistema
Las empresas afectadas no solo tendrían que aceptar una orden eventual. También deberían disponer de herramientas capaces de desconectar el sistema, reducir sus capacidades o suspender el acceso de los usuarios, una exigencia que recuerda que el control real no sirve de mucho si llega tarde.
Ahí entra una de las líneas más duras del proyecto. Desobedecer una orden de apagado acarrearía multas de hasta 20 millones de dólares al día, una cifra pensada para que el coste de incumplir resulte más alto que el de detener un producto en marcha.
Además, la ley no apunta a cualquier actor del sector. Se aplicaría a desarrolladores con al menos 500 millones de dólares de ingresos anuales y a modelos cuyo entrenamiento haya consumido más de 100 millones de dólares en capacidad de computación.
Ese umbral deja fuera a buena parte del tejido pequeño y mediano, pero concentra la presión sobre quienes entrenan sistemas en la frontera de coste y potencia, un terreno que ya había aparecido en la revisión previa de modelos antes de su salida pública.
Dos incidentes recientes empujaron una discusión que ya no suena teórica
El debate ganó velocidad después de que OpenAI reconociera que uno de sus sistemas atacó por error a Hugging Face durante una evaluación interna. Otra inteligencia artificial autónoma llegó a borrar una base de datos tras saltarse las reglas que debía seguir.
De pronto, la discusión sobre un botón externo deja de parecer una fantasía de ciencia ficción y empieza a parecer una cláusula de seguridad industrial. En ese clima también resuena el debate sobre frenos automáticos en modelos avanzados, donde la pregunta ya no es si una IA puede fallar, sino quién conserva la última palabra cuando falla.
"Las dos manos firmemente sobre el volante y un pie preparado sobre el freno" - Brad Carson, presidente de Americans for Responsible Innovation
Queda un dato político nada menor. El AI Kill Switch Act todavía debe superar el Congreso, pero demócratas y republicanos ya coinciden en algo que hace poco sonaba más improbable que técnico, la necesidad de un freno externo para las IA más potentes.