Un grupo de investigadores de Microsoft llevó a cabo un experimento inquietante: utilizaron inteligencia artificial (IA) para crear planos digitales de proteínas que pueden imitar algunos de los venenos más mortales conocidos, como la ricina, la toxina botulínica y la Shiga. El propósito no era producir estas toxinas, sino evaluar los mecanismos de seguridad que evitan que se fabriquen armas biológicas peligrosas mediante la biotecnología moderna.
El ingeniero bioquímico Bruce Wittmann, quien lidera el equipo, normalmente utiliza IA para diseñar proteínas útiles en medicina o agricultura. Sin embargo, según la revista Science, en esta ocasión aplicó sus habilidades “como si fuera un bioterrorista”.
Para evaluar si las empresas que sintetizan ADN estaban realmente preparadas para identificar y bloquear pedidos sospechosos, los científicos realizaron un ejercicio de “equipo rojo” (red team), un término militar que se refiere a pruebas donde un grupo simula un ataque para descubrir debilidades en los sistemas de defensa.
Versiones digitales de toxinas
El equipo de Microsoft eligió 72 proteínas reguladas por leyes internacionales, incluyendo la ricina, una sustancia utilizada en atentados terroristas y considerada un arma biológica de alta peligrosidad. Utilizaron herramientas de IA para diseñar más de 70,000 secuencias de ADN que generarían versiones alternativas de estas proteínas.
Los modelos computacionales confirmaron que algunas de estas variantes podrían ser tóxicas. Wittmann admitió que poseer el conocimiento para recrear estos compuestos le generaba una “carga moral significativa”.
Por razones éticas y legales, los investigadores no sintetizaron los genes ni las proteínas, ya que esto habría violado la Convención sobre Armas Biológicas, que prohíbe la creación o desarrollo de agentes patógenos. En su lugar, enviaron las secuencias a cuatro empresas proveedoras de software de detección de bioseguridad (BSS), que es el sistema que utilizan las compañías de ADN para identificar pedidos de secuencias potencialmente peligrosas.
Filtros imperfectos
Los resultados fueron alarmantes. Ninguno de los programas logró identificar todas las secuencias riesgosas, y uno de ellos apenas detectó el 23% de los posibles agentes tóxicos. El más eficaz alcanzó solo un 70%. Según el paper, esto revela grietas preocupantes en los sistemas de defensa actuales contra la fabricación de armas biológicas con nuevas tecnologías.
Las reacciones de las empresas fueron diversas. Algunos desarrolladores actualizaron sus herramientas, mientras que otros optaron por no modificar sus algoritmos. La razón es práctica: un filtro demasiado estricto podría bloquear secuencias inocuas, dificultando investigaciones legítimas y aumentando los costos del sector.
Después de aplicar parches de software, los sistemas mejorados lograron detectar el 72% de las secuencias generadas por IA, incluyendo la mayoría de las más peligrosas. Aunque este resultado representa un avance, los investigadores reconocen que el problema está lejos de resolverse.
Por motivos de seguridad, tanto el equipo como la revista Science decidieron ocultar detalles técnicos del experimento publicado esta semana en sus páginas, así como del funcionamiento de los parches. El acceso a esta información se limitará a especialistas acreditados, bajo la supervisión del International Biosecurity and Biosafety Initiative for Science (IBBIS), una organización sin fines de lucro dedicada a mejorar la seguridad biotecnológica.
¿Hay motivo de preocupación?
Jaime Yassif, vicepresidenta de programas biológicos en la Nuclear Threat Initiative, considera que el estudio es “solo el comienzo”. La experta advirtió que las medidas de protección suelen tener dificultades para avanzar al mismo ritmo que la IA: “Las capacidades de la IA evolucionarán y permitirán diseñar sistemas vivos cada vez más complejos, y nuestras capacidades de detección de síntesis de ADN tendrán que seguir evolucionando para mantenerse al día”.
Yassif también destacó un punto crítico: alrededor del 20% de las empresas que venden ADN sintético no realizan ningún tipo de control sobre los pedidos que reciben, lo que deja una puerta abierta a posibles abusos.
A pesar de las alarmas, los incidentes reales son escasos. James Diggans, de la empresa Twist Bioscience, asegura que en una década de trabajo apenas han tenido que reportar unos pocos casos a las autoridades. “El número real de personas que intentan un uso indebido probablemente sea cercano a cero”, afirmó.