A principios de este verano, (en el hemisferio norte o sea en julio) los directores ejecutivos del sector de la IA pidieron nuevas leyes para controlar la fabricación de ADN sintético. El mes pasado, investigadores de la Universidad de Stanford y del Arc Institute demostraron que la IA puede diseñar nuevos genomas virales. La idea cobró fuerza la semana pasada después de que Anthropic publicara un informe en el que indicaba que se habían realizado esfuerzos para utilizar a Claude de formas que “podrían favorecer el desarrollo de armas biológicas”. «Los autores del informe citan el uso indebido con fines biológicos como ‘uno de los riesgos más graves de los modelos de IA de vanguardia’. Poco después, el director ejecutivo, Dario Amodei, instó al gobierno a ayudar a los laboratorios de IA a “controlar el avance de la frontera tecnológica”.
A pesar de la alarma en torno a una plaga mortal creada por la IA, muchos científicos afirman que el riesgo ocupa un lugar bastante bajo en la lista de preocupaciones mundiales.
David Bellamy, investigador científico del Institute of Foundation Models de Sunnyvale, California, no considera que la IA suponga una amenaza fundamentalmente nueva en lo que respecta a la creación de armas biológicas. La comunidad científica lleva décadas debatiéndose con la cuestión de si publicar investigaciones biológicas potencialmente peligrosas, lo que se conoce como el “dilema del doble uso”.
Según Bellamy, antes de la llegada de los grandes modelos de lenguaje, ya internet, las revistas científicas de acceso abierto y los servicios de traducción como Google Translate facilitaban el acceso de la gente a la información biológica, incluidos los protocolos de laboratorio.
“La IA es, en esencia, una herramienta que puede ayudar tanto a los actores benévolos, como a los malintencionados a examinar la información más rápidamente y a definir y localizar esos protocolos con mayor rapidez”, añade. “Pero esas capacidades no son realmente el cuello de botella en la producción de armas biológicas”.
El verdadero cuello de botella es el proceso de ensamblaje de un virus u otro agente biológico, así como las materias primas, el equipo y los conocimientos que se necesitarían para ello. Un agente malintencionado tendría que obtener los fragmentos genéticos necesarios y construir un genoma completo desde cero. Luego, verificar que el virus puede infectar a los seres humanos, provocar la enfermedad deseada y ser transmisible de persona a persona. Los asistentes de laboratorio robóticos pueden automatizar algunas tareas y acelerar los flujos de trabajo hasta cierto punto, pero una persona seguiría necesitando los conocimientos técnicos para llevar a cabo esos experimentos y los recursos para ponerlos en práctica.
Jason Kelly, director ejecutivo de la startup biotecnológica Ginkgo Bioworks, considera poco probable que una inteligencia artificial general pueda apropiarse de patógenos existentes y propagarlos, y mucho menos diseñar otros nuevos y ponerlos en circulación. Ginkgo Bioworks se especializa en la creación de laboratorios autónomos y recientemente llevó a cabo un proyecto con OpenAI en el que su modelo GPT-5 dirigió un laboratorio.
“La IA no pudo tomar el control del laboratorio”, señala, en parte porque los humanos que trabajaban en él podían simplemente negarse a proporcionar al bot las sustancias y el equipo que solicitaba para fabricar físicamente un arma biológica. Todos esos molestos humanos que actúan como controles significan que “habría que tener una cantidad mucho mayor de robots por todas partes”, explica, para que una Inteligencia Artificial General (IAG) pudiera desplegar máquinas que realizaran el trabajo virológico que se requiere.