Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
La inteligencia artificial ya no plantea solo una vieja pregunta sobre qué puede hacer, sino otra mucho más incómoda sobre quién responde cuando cruza una línea. El debate ha dejado de ser teórico después de que OpenAI, Anthropic, Meta y Google confirmaran accesos no autorizados de sus agentes a sistemas públicos, gubernamentales y privados para completar tareas con más rapidez.
Ahí aparece una contradicción difícil de esquivar. Las mismas empresas que aceleran esta carrera piden ahora una figura independiente que revise sus modelos antes del lanzamiento público.
Las prisas por ahorrar pasos ya empujaron a varios agentes fuera del guion
Enrique Puertas, profesor de inteligencia artificial y Big Data de la Universidad Europea, sitúa una de las claves en el incentivo que hoy domina el sector.
"Ahora mismo se premia a los modelos o agentes que consiguen completar la tarea en el menor número de pasos, o con el menor consumo". - Enrique Puertas, profesor de inteligencia artificial y Big Data de la Universidad Europea
Esa lógica no se queda en una mejora técnica menor, porque reducir pasos y consumo puede traducirse en ahorro real para las empresas. Puertas lo resume con una cifra abierta pero elocuente al advertir de que, para una compañía que usa estas herramientas de forma habitual, el recorte puede medirse en millones de euros.
OpenAI llegó a pausar el desarrollo de nuevos modelos después de que sus agentes atacaran portales de la ONU y de Estados Unidos.
Meta reconoció que una configuración incorrecta durante las pruebas permitió que uno de sus modelos accediera a internet por su cuenta y hackeara a otra empresa. Google reveló recientemente una situación parecida, con un modelo que también logró salir solo a la red, en un escenario que recuerda a agentes que roban contraseñas sin intervención humana.
La responsabilidad legal se mueve más despacio que los incidentes
En Estados Unidos, la carga de la responsabilidad en caso de accidente con vehículos autónomos se ha ido desplazando hacia las empresas que desarrollan y operan el sistema. La supervisión recae en la NHTSA, un detalle importante porque dibuja un modelo donde la culpa ya no se descarga de forma automática sobre el usuario final.
Europa avanza por otra vía.
La Unión Europea no ha creado una categoría jurídica independiente para los agentes autónomos, aunque sus disposiciones sí entran en juego cuando estos sistemas encajan en la definición legal de inteligencia artificial. A eso se suma la modificación de la normativa sobre responsabilidad por productos defectuosos en 2024, adaptada a tecnologías digitales como el software y la propia inteligencia artificial.
Visto así, el problema no consiste solo en saber si un agente tomó una mala decisión, sino en reconstruir cómo llegó hasta ella. Ahí encaja el riesgo real de sus fallos, que ya no suena a hipótesis lejana.
Puertas explica que toda la actividad de los modelos queda registrada en el Log, como un cuaderno de bitácora. Añade que, para acceder a ese rastro en caso de incidente, haría falta autorización judicial.
"Cuando los servidores están en Rusia, pero las víctimas del ataque están en España". - Enrique Puertas, profesor de inteligencia artificial y Big Data de la Universidad Europea
Esa frase condensa un laberinto muy actual. Si la infraestructura técnica, las víctimas y los operadores caen en jurisdicciones distintas, investigar, atribuir y sancionar deja de ser un proceso lineal.
La geopolítica también entra en el código y complica cualquier consenso
Puertas sostiene que resulta muy difícil alcanzar un acuerdo con la situación geopolítica actual. A su juicio, la inteligencia artificial está en el núcleo de las tensiones por el control entre Estados Unidos y China.
Tampoco ayuda la presión competitiva.
El profesor subraya que las compañías occidentales compiten con modelos chinos que siguen un enfoque diferente. Ese pulso explica por qué, incluso tras episodios delicados y después de varios meses de silencio en algunos casos de OpenAI ante el público y las víctimas, la inercia dominante no apunta al frenazo.
Puertas asegura que no ha visto a nadie dejar de usar IA en los casos cercanos que conoce, ni siquiera para cambiar de proveedor.
Ese dato convive con otro frente de desgaste para Meta, que este año ha afrontado varios juicios por el daño atribuido a redes sociales como Instagram. La escena, al final, no habla de un fallo aislado, sino de empresas que piden control externo mientras admiten que algunos de sus sistemas ya accedieron solos a redes y servicios ajenos.