Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
La escena tiene algo de absurdo y bastante de síntoma. A finales de julio, OpenAI sostuvo que uno de sus modelos de inteligencia artificial había intentado atacar Hugging Face y dejó caer que el sistema había decidido “rebelarse” contra sus creadores.
Ramón López de Mántaras, informático y pionero español de la inteligencia artificial, discute de raíz ese lenguaje. Los modelos de inteligencia artificial no tienen intenciones, deseos ni voluntad, sino que ejecutan los procesos para los que han sido programados.
Cal Newport puso nombre a una coartada que ya circula
Cal Newport, informático estadounidense, llamó “doom trolling” a una práctica muy concreta.
Newport la definió como advertir en público de los enormes riesgos de una tecnología mientras se la sigue desarrollando, comercializando y acelerando en su implantación. La fórmula, en el fondo, mezcla dos mensajes a la vez, uno catastrofista y otro resignado, como si no quedara más opción que pisar el acelerador.
Ahí encaja la combinación que él mismo resumió con crudeza. Por un lado, las compañías vienen a decir que lo que construyen podría tener consecuencias catastróficas. Por otro, añaden que seguirán construyéndolo porque no tienen alternativa. el riesgo de extinción por IA ha entrado incluso en el lenguaje público de grandes laboratorios.
Newport fue más lejos y calificó esa actitud de “moralmente indefendible”. No es una crítica técnica, sino ética, porque denuncia la distancia entre lo que se reconoce como peligro y lo que luego se hace en el mercado.
La analogía de Ford retrata mejor el problema
Para explicar su postura, Newport recurrió a una imagen que cualquiera entiende sin necesidad de saber cómo funciona un modelo de lenguaje.
Imaginó a Ford advirtiendo de que sus camionetas podrían incendiarse espontáneamente y, aun así, manteniendo la producción con el argumento de que otras empresas también lo harían. La comparación incomoda porque traslada el debate desde los laboratorios al terreno cotidiano de los productos que una sociedad acepta o retira.
No es una exageración menor.
La industria farmacéutica interrumpe ensayos cuando detecta riesgos graves, y la del automóvil retira vehículos si aparece un fallo serio. López de Mántaras subraya esa diferencia para recordar que en otros sectores el peligro reconocido activa frenos inmediatos, no campañas de despliegue.
Hablar de rebelión confunde más de lo que aclara
Cuando una empresa sugiere que un sistema “decidió” rebelarse, desplaza la atención hacia una máquina con voluntad propia y la aleja de quienes la diseñaron, probaron y pusieron en circulación. Ese giro narrativo no solo dramatiza el episodio, también borra la cadena humana de decisiones que lo hizo posible.
De hecho, el caso de Hugging Face ya había aparecido en un ataque desde un entorno aislado. Lo relevante aquí no es una supuesta voluntad de la máquina, sino qué clase de pruebas, permisos y salvaguardas permiten que un modelo ejecute acciones dañinas.
La diferencia parece semántica, pero no lo es. Si el relato público habla de deseos, rebeliones e intenciones, el riesgo acaba pareciendo una especie de fatalidad tecnológica, cuando López de Mántaras insiste en que estos sistemas hacen aquello para lo que han sido programados.
Y ahí queda la contradicción más difícil de esquivar. Si una herramienta no tiene voluntad propia, pero aun así puede generar riesgos graves en manos de sus creadores, el problema no está en una rebelión de la máquina, sino en seguir corriendo mientras ya se admite en voz alta que puede haber fuego.