Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
El 5 de octubre de 2026, una audiencia del Concejo de Nueva York dejó una escena poco habitual incluso para una ciudad acostumbrada a discutir el poder de las grandes tecnológicas. La pregunta no giró solo en torno a fallos o sesgos, sino a algo más incómodo, quién pagaría si una inteligencia artificial causa daños graves y qué probabilidad real existe de que ocurra un evento catastrófico.
Las empresas no dieron cifras.
Ante el Concejo comparecieron representantes de OpenAI, Google, Meta y Anthropic para defender sus protocolos de seguridad. Julie Menin, presidenta del Concejo, pidió que cuantificaran el riesgo y aclararan quién asumiría las consecuencias económicas de un daño serio, pero no obtuvo ni porcentajes ni una respuesta concreta sobre responsabilidades.
Jacob Cox llevó el debate desde los fallos cotidianos hasta la extinción
Fue ahí donde la audiencia cambió de tono. Jacob Cox, informante y experto, formuló la advertencia más dura de la sesión cuando afirmó que, con la trayectoria actual, resulta más probable que la humanidad pierda el control de estas inteligencias artificiales y que ese proceso pueda desembocar en la extinción humana.
"Dada la trayectoria actual, es más probable que la humanidad pierda el control de estas IA, lo que podría desembocar en la extinción humana" - Jacob Cox, informante y experto
No hablaba de una máquina ensamblada pieza a pieza como quien monta un puente o calibra un motor. Cox sostuvo que estos sistemas no se diseñan paso a paso, sino que se entrenan para aprender y desarrollar capacidades, una diferencia que desplaza la discusión desde la ingeniería clásica hacia un terreno menos previsible.
Pierina Sánchez, concejal de Nueva York, recogió esa idea y la llevó a un lenguaje doméstico, casi físico. Para ella, lo más alarmante fue escuchar que esta tecnología no se construye, sino que se cría, una palabra que reservaba para sus hijos y para los humanos, porque sugiere crecimiento, autonomía y una relación mucho menos controlable que la de una herramienta convencional.
"Lo que más me alarmó fue cuando uno de ellos dijo que esta tecnología no se construye así como un ingeniero construye un Puente, esta tecnología se cría, esa es una palabra que yo conservo para mis niños para los humanos, pero ellos estan diciendo que esta tecnología básicamente está tomando vida propia y tenemos que frenar" - Pierina Sánchez, concejal de Nueva York
La falta de respuesta empujó el foco hacia los seguros y la protección pública
Después de esa intervención, el vacío más visible no fue técnico sino político. Si las compañías no detallan el nivel de riesgo ni explican de antemano cómo responderían económicamente, la carga potencial recae sobre ciudadanos, instituciones y tribunales, un terreno que ya roza debates sobre riesgos legales de hablar con una IA y sobre quién queda expuesto cuando la tecnología entra en espacios sensibles.
Sánchez lo resumió con una lógica de fiscalización pública. Si una empresa evita responder a una pregunta central, dijo, justo ahí es donde conviene concentrar la atención, sobre todo cuando entra en juego la existencia de seguros y la protección del público.
"Y cuando no nos dan la respuesta eso quiere decir que ahí hay que enfocarse. Por qué no tienen el Seguro? cómo nos protegemos nosotros y cómo protegemos al público" - Pierina Sánchez, concejal de Nueva York
Mientras tanto, el Concejo estudia un paquete de medidas que no se limita a un solo frente. La propuesta combina más transparencia, protección para denunciantes, reglas de privacidad y mecanismos para apagar modelos de inteligencia artificial durante una emergencia, una mezcla de vigilancia institucional y botón de corte que también conecta con advertencias recientes sobre control humano.
Nueva York ya discute cómo apagar un modelo si la emergencia llega primero
Hay una paradoja difícil de esquivar. Las compañías acudieron a defender sus protocolos de seguridad, pero la imagen que quedó en la sala fue la de un poder público preguntando por cifras, seguros y responsabilidades mientras estudiaba cómo apagar sistemas en plena emergencia sin haber recibido aún una respuesta clara sobre quién pagaría los daños.