Los directores ejecutivos de Varias empresas importantes de inteligencia artificial están instando a los miembros del Congreso a adoptar una nueva legislación que dificultaría que los delincuentes desarrollen armas biológicas utilizando su tecnología.
Demis Hassabis de Google DeepMind, Sam Altman de OpenAI, Dario Amodei de Anthropic y Mustafa Suleyman de Microsoft AI se encuentran entre los firmantes del acuerdo. carta publica pide una legislación que obligue a las empresas que venden ADN y ARN sintéticos a examinar a los clientes y los pedidos para evitar el uso indebido del material genético.
Organizada por el independiente Instituto para el Progreso y la derechista Fundación para la Innovación Estadounidense, la carta reconocía que, dado el rápido desarrollo de la IA, “existe una posibilidad real de que las barreras de conocimiento que históricamente han impedido que los malos actores obtengan armas biológicas se erosionen significativamente”.
El científico Arthur Kornberg fue la primera persona que sintetizó con éxito el ADN en la década de 1950. Hoy en día, el proceso está automatizado y docenas de empresas en todo el mundo utilizan sintetizadores comerciales para “imprimir” y vender secuencias genéticas especializadas utilizadas para la investigación científica, el desarrollo de fármacos y el diagnóstico. Muchos proveedores venden sólo a investigadores calificados, empresas de biotecnología e instituciones educativas, pero no todos atienden a clientes veterinarios ni a las secuencias genéticas que solicitan.
En 2017, investigadores canadienses expresaron su preocupación cuando utilizaron ADN pedido por correo por valor de 100.000 dólares para reconstituir un virus extinto de la viruela equina. Los críticos dicen que la misma metodología podría haberse utilizado para desarrollar la viruela, un virus mortal y estrechamente relacionado. Desde entonces, la síntesis de genes se ha vuelto más barata.
Combinado con los avances en IA, ahora es posible diseñar nuevas toxinas y patógenos peligrosos utilizando modelos de lenguaje extensos, aunque es posible que aún se requiera cierta formación en biología para crear un virus funcional desde cero. Aunque los ataques bioterroristas son raros, tienen el potencial de causar víctimas masivas, pánico público y pérdidas económicas. Una preocupación importante es que los patógenos diseñados por la IA puedan desencadenar intencionada o accidentalmente una pandemia mundial.
“Las herramientas de inteligencia artificial permiten a los usuarios identificar rápidamente dónde acudir a los pedidos que no se someterán a control”, dijo David Relman, microbiólogo y experto en bioseguridad de la Universidad de Stanford, quien firmó la carta. “Si se les pregunta adecuadamente, también pueden decirle cómo cambiar la naturaleza de su pedido, por lo que incluso aquellos que realizan la evaluación pueden ser menos capaces de detectar lo que está tratando de hacer”.
Los firmantes incluyen otros científicos, expertos en seguridad nacional y ejecutivos de las empresas de síntesis genética Twist Bioscience y Ansa Biotechnologies. Estas empresas son miembros del Consorcio Internacional de Síntesis Genética, que se formó en 2009 para implementar prácticas de detección voluntaria. Muchas empresas han utilizado software para detectar pedidos en busca de “secuencias preocupantes” que puedan contribuir a la toxicidad o la capacidad de un organismo para causar enfermedades.
“Si tienes tecnología capaz de sintetizar ADN, entonces tienes que asegurarte de que se use de manera responsable, y una de esas cosas es asegurarte de que entiendes lo que estás haciendo y para quién lo estás haciendo”, dijo James Diggans, vicepresidente de políticas y bioseguridad de Twist Bioscience. Las empresas han apoyado la implementación de reglas formales durante años.
Federal pautas Introducido durante la administración de Biden, requiere que los científicos y las empresas que reciben fondos federales soliciten secuencias de genes sintéticos a proveedores que analizan las compras. A proyecto de ley bipartidista Introducido a principios de este año en el Senado requeriría que todos los proveedores de síntesis de genes que operan en los EE. UU. revisen los pedidos y los clientes en busca de delincuentes o patógenos peligrosos.
Pero las herramientas de detección no son perfectas. El año pasado, investigadores de Microsoft publicaron un Estudiar demostró que una herramienta de diseño de proteínas de IA era capaz de generar secuencias genéticas potencialmente peligrosas que escaparon al software de filtrado de la empresa. El modelo sugiere un nuevo conjunto de proteínas con estructuras similares que se sabe que son dañinas.
Geoff Ralston, ex presidente de Y Combinator y socio de Safe AI Fund, sostiene que los laboratorios de IA con modelos biológicos deberían realizar su propia evaluación de los usuarios.
“Debe ser muy difícil, si no imposible, pedirle a un modelo que te ayude a hacer algo tan peligroso”, dijo Ralston, quien también firmó la carta.
Relman está de acuerdo en que las regulaciones sobre los procedimientos de detección son sólo una parte de la solución. “Dado que en algunos casos el control puede fallar, debemos tener otros puntos de control”, afirmó. “Ahí es donde las empresas de IA deben dar un paso adelante”.
