Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
Un asistente de programación puede sugerir un paquete que no existe y, aun así, abrir la puerta a un ataque.
Eso es lo que han descrito investigadores de ciberseguridad de la Universidad de Tel Aviv y de Intuit al detectar una vulnerabilidad en herramientas como Copilot o Cursor. El método recibe un nombre tan extraño como preciso, alucinación adversarial.
La trampa empieza cuando la IA inventa un paquete
El mecanismo tiene algo de estafa de suplantación llevada al mundo del código. La inteligencia artificial recomienda un paquete ficticio, los atacantes registran ese mismo nombre como repositorio real en plataformas públicas y colocan dentro código malicioso.
Luego llega el paso más delicado. El asistente descarga el paquete infectado sin que el desarrollador lo detecte, de modo que la sugerencia automática deja de ser una ayuda y pasa a convertirse en vector de entrada.
Entre los riesgos de la IA aplicada a seguridad ya han aparecido casos de agentes que automatizan ataques, pero aquí el detalle inquietante es otro. No hace falta romper primero el sistema, basta con esperar a que la herramienta sugiera un nombre convincente.
La tasa de acierto convierte un error en una amenaza práctica
La tasa de éxito del ataque en las herramientas más populares oscila entre el 80 % y el 100 %.
Una cifra así obliga a mirar el problema de otra manera, porque ya no habla de un fallo raro o de una coincidencia estadística. Habla de un comportamiento lo bastante repetido como para que un atacante pueda convertir una alucinación de la IA en una rutina.
GitHub Copilot cuenta con millones de usuarios. Cuando una herramienta tan extendida automatiza una decisión técnica, incluso un desliz pequeño puede multiplicarse a gran escala.
El problema no está solo en el código, sino en la confianza
Muchos desarrolladores usan estos asistentes para ahorrar tiempo en tareas repetitivas, buscar librerías o completar funciones enteras. Ahí aparece la contradicción, porque cuanto más natural parece la recomendación, menos motivos tiene el usuario para sospechar que ese paquete ni siquiera existía unos minutos antes.
Esa confianza ciega en la sugerencia automática conecta con otras alertas recientes sobre modelos que buscan fallos dentro de redes vulnerables. En este caso, la novedad no consiste en que la IA ataque por sí sola, sino en que puede inducir al humano a traer el problema a casa.
Los investigadores ya han notificado la vulnerabilidad a las compañías desarrolladoras de estos asistentes para que tomen medidas. El dato más incómodo sigue siendo el mismo, porque el ataque funciona justo en el punto donde muchos usuarios bajan la guardia, el instante en que una recomendación automática parece tan útil como inocente.