Un equipo de investigadores de Microsoft ha generado ondas en el mundo de la biotecnología y la bioseguridad al utilizar inteligencia artificial para diseñar planos digitales de proteínas capaces de imitar venenos extremadamente peligrosos, como la ricina, la toxina botulínica y la toxina Shiga. Este experimento no pretendía crear armas biológicas, sino poner a prueba los sistemas actuales de detección que deberían evitar que la biotecnología moderna sea utilizada con fines dañinos. Lo que descubrieron es inquietante los mecanismos de control existentes fallan de forma sistemática ante las nuevas capacidades que ofrece la IA generativa.
El equipo, liderado por Bruce Wittmann, un ingeniero bioquímico, seleccionó 72 proteínas que están reguladas por leyes internacionales debido a su potencial como agentes biológicos peligrosos. Usando herramientas de inteligencia artificial, generaron más de 70 000 secuencias de ADN sintéticas que codifican proteínas similares a estas sustancias tóxicas. Lo más preocupante es que ninguna de estas secuencias fue sintetizada, ni en laboratorio ni en forma física, por razones éticas y legales, ya que hacerlo habría violado la Convención sobre Armas Biológicas. El experimento se mantuvo en el plano digital, pero eso no disminuye su relevancia ni su potencial riesgo.
Los investigadores enviaron estas secuencias a cuatro empresas que ofrecen software de detección de bioseguridad, herramientas que supuestamente filtran pedidos de ADN sintético para identificar secuencias peligrosas antes de que se fabriquen. Los resultados fueron alarmantes. Un programa apenas detectó el 23 por ciento de las secuencias riesgosas, mientras que el más eficaz llegó al 70 por ciento. Esto revela una brecha crítica en las defensas actuales contra el uso malintencionado de la biotecnología. Tras recibir los datos y trabajar en actualizaciones, los sistemas mejoraron su rendimiento hasta detectar el 72 por ciento, pero ese margen de error sigue siendo inaceptable en un ámbito donde una sola secuencia mal gestionada podría tener consecuencias devastadoras.
Por razones de seguridad, los detalles técnicos del experimento y las actualizaciones aplicadas a los programas de detección se han mantenido en secreto. Solo están accesibles para especialistas acreditados bajo la supervisión del International Biosecurity and Biosafety Initiative for Science, conocido como IBBIS. Esta medida responde a la paradoja inherente al avance científico compartir conocimiento fortalece la comunidad, pero también puede facilitar su uso indebido.
"Las capacidades de la IA evolucionarán y permitirán diseñar sistemas vivos cada vez más complejos, y nuestras capacidades de detección de síntesis de ADN tendrán que seguir evolucionando para mantenerse al día" - Jamie Yassif, vicepresidenta de programas biológicos en la Nuclear Threat Initiative
Su declaración subraya una urgencia creciente si no anticipamos los riesgos, corremos el peligro de quedarnos atrás. Yassif también reveló un dato preocupante alrededor del 20 por ciento de las empresas que venden ADN sintético no realizan ningún tipo de control sobre los pedidos que reciben. Esto significa que existe un mercado paralelo tecnológico con mínima vigilancia.
Otros expertos ofrecen perspectivas distintas. James Diggans, de Twist Bioscience, una de las principales empresas de ADN sintético, opina que el número real de personas que intentan un uso indebido de estas tecnologías probablemente sea cercano a cero. Sin embargo, esta tranquilidad puede ser engañosa. Como señaló Drew Endy, biólogo sintético de la Universidad de Stanford, el mundo ya ha vivido este guion antes.
"Hoy los países se acusan mutuamente de tener programas ofensivos... Ese fue el mismo patrón que hace un siglo condujo al desarrollo real de armas biológicas. Tenemos que desescalar antes de repetir la historia"
Su advertencia conecta el presente con un pasado oscuro, recordándonos que la desconfianza entre naciones puede, con el tiempo, convertirse en acciones concretas.
Alfonso Valencia, profesor ICREA y director de Ciencias de la Vida en el Centro Nacional de Supercomputación de Barcelona, destacó el doble filo de la IA generativa en biología.
"La capacidad de los sistemas de IA generativa para generar proteínas completamente nuevas, con secuencias y funciones distintas a las naturales, ha revolucionado la biotecnología y sus aplicaciones... pero conlleva un riesgo la posibilidad de generar proteínas peligrosas. Lo primero que viene a la mente es una variante más infecciosa del coronavirus"
Esta posibilidad no es ciencia ficción; es un escenario técnicamente plausible que obliga a repensar cómo regulamos y supervisamos las herramientas digitales que hoy pueden diseñar la vida.
Valencia también hizo una observación clave sobre la estrategia de los investigadores de Microsoft no han hecho público su software.
"Un aspecto interesante de esta publicación es que... los autores no han hecho público su software abiertamente, para evitar que otros puedan desarrollar contramedidas y eludir las restricciones. Esto es una prueba más de la debilidad de este tipo de aproximaciones y de la enorme dificultad que existe para controlar las propiedades de los datos sintéticos producidos por los métodos de IA generativa"
Este gesto ético refleja una conciencia profesional, pero también evidencia el fracaso de los enfoques actuales basados en listas de control si la IA puede generar miles de variantes invisibles a los filtros, entonces esos filtros están obsoletos.
Este experimento no es un ataque, sino una advertencia. Nos muestra que la frontera entre el progreso científico y el peligro biológico se está volviendo cada vez más difusa. La inteligencia artificial, herramienta de curación, descubrimiento y mejora de la vida, también puede convertirse en un instrumento de amenaza silenciosa. La pregunta no es si debemos seguir avanzando, sino cómo hacerlo sin perder de vista la responsabilidad colectiva. El control de la biotecnología no puede depender solo de la buena voluntad de unos pocos. Necesitamos marcos globales, actualizados, transparentes y resilientes. Porque el próximo veneno no vendrá en una ampolla, sino en un archivo de ADN generado por una máquina. Y mientras no lo detectemos a tiempo, estaremos jugando con fuego.