Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
La discusión sobre la inteligencia artificial ya no enfrenta solo a ingenieros y empresas. También separa a quienes piden acelerar y a quienes creen que el verdadero riesgo empieza justo cuando una máquina ya puede mejorar su propio comportamiento sin que nadie la vigile de cerca.
Román Orús, director científico de Multiverse Computing y único español entre los 40 expertos independientes del Panel Científico Internacional de la ONU sobre Inteligencia Artificial, figura entre los que reclaman freno. Para él, la cuestión no consiste en detener la tecnología, sino en decidir quién manda sobre ella y con qué barreras.
"Lo que necesitamos es una IA supervisada por los humanos, que esté al servicio de la humanidad y no al revés. No queremos una inteligencia artificial que supervise a la humanidad y que nos tenga a su servicio aunque sea de una manera muy sutil y persuasiva". - Román Orús, director científico de Multiverse Computing
La frase no apunta a una rebelión de ciencia ficción, sino a una cesión gradual de criterio. Ese desplazamiento ya aparece en debates sobre reglas que van por detrás de sistemas cada vez más capaces.
Orús pide frenar cuando la potencia crece más deprisa que el control
Orús sostiene que la inteligencia artificial ya empieza a ser tan potente que no está controlada de forma eficiente. Por eso reclama investigar mejor cómo se entrenan estos sistemas y someterlos a una supervisión más estricta.
Además, propone sistemas de alerta temprana y distintas capas de seguridad para evitar desastres. Su argumento parte de una idea simple y difícil de discutir, porque cuanto más potentes son los modelos, más costoso resulta corregirlos cuando ya están desplegados.
Hay una frase suya que resume ese vértigo.
"Llegados a esta capacidad, pues no sorprende que, si a una IA tú le dices que se mejore a sí misma, te puedo asegurar que va a hacerlo y eso es otra cosa que se tiene que controlar". - Román Orús, director científico de Multiverse Computing
No habla de una hipótesis remota, sino de una capacidad que obliga a revisar el ritmo de desarrollo. Orús insiste en que hace falta asegurar y entender ciertas piezas antes de continuar, porque esos modelos necesitan varias barreras de protección para resultar seguros.
La petición de ir más despacio ya reúne a gobiernos y a directivos
El aviso no llega solo desde la investigación.
Dario Amodei, director ejecutivo de Anthropic, ha reclamado un ritmo más lento para la industria ante los riesgos de seguridad de la inteligencia artificial. A esa petición se han sumado Sam Altman, de OpenAI, y Elon Musk, de xAI.
Al mismo tiempo, Pedro Sánchez y otros 21 países e instituciones han pedido que la inteligencia artificial quede supervisada por humanos y que los Estados miembros de la ONU acuerden normas comunes. El pasado lunes, el presidente del Gobierno español presentó además el plan IA360 para un despliegue responsable de esta tecnología en España.
Orús avala esa dirección y la conecta con una carrera internacional en marcha. En esa lectura encaja también el debate sobre controles previos que ya ha entrado en foros de la ONU.
"Los Gobiernos y los países necesitan tener sus planes de IA" y "Es una tecnología que ha venido para quedarse y España y Europa se tienen que posicionar". - Román Orús, director científico de Multiverse Computing
Trump rechaza más control y Orús ve una pugna con China
No todos miran el problema con el mismo mapa.
Donald Trump, presentado como máximo mandatario estadounidense, sostiene que existe "una conspiración enfermiza" contra la inteligencia artificial y que esta tecnología no necesita más control que el hecho de que él sea el presidente de su país. La distancia con la posición de Sánchez, con la de los 21 países e instituciones y con la de parte del propio sector no puede ser más visible.
Orús atribuye esa postura a una lógica geopolítica antes que técnica. A su juicio, Trump quiere ganar una especie de guerra fría con China y deja en segundo plano cualquier otra consideración, aunque la evidencia sobre los riesgos ya esté sobre la mesa.
La tensión no está entre usar o no usar inteligencia artificial, sino entre desplegarla deprisa o someterla a controles humanos reales. Y ahí el dato incómodo sigue siendo el mismo, porque quienes más conocen sus capacidades reclaman ahora el freno que durante años parecía secundario.