La inteligencia artificial (IA) pronto añadirá la biología a su lista de habilidades sobrehumanas. El modelo Mythos de Anthropic —cuya comercialización general ya se ha suspendido debido a sus habilidades de piratería informática— ha superado recientemente una tercera parte de las tareas de procesamiento de … datos más difíciles recopiladas por expertos en biología. Mythos fue capaz de realizar tareas que superaban las capacidades de todos los humanos sometidos a prueba, como la ingeniería inversa de un tipo de célula a partir de datos de ADN sin procesar.
Como informamos, la resolución de problemas de este tipo significa que la IA pronto podría otorgar a las personas poderes extremadamente peligrosos: sintetizar virus, generar nuevas neurotoxinas o ensamblar una «vida espejo» omnicida. Tales peligros son el lado oscuro de la maravillosa promesa de la IA de democratizar la inteligencia. Es incluso concebible que una IA pueda dar a un solitario misántropo el poder de acabar con la humanidad.
Los riesgos de bioseguridad son, por tanto, mucho peores que los de ciberseguridad. Si un virus diseñado artificialmente puede causar miles de millones de muertes, la humanidad no tiene margen para aprender de los errores. Puede que no exista un «dividendo del defensor», en el que la propia IA ayude a prevenir el peligro. El software se puede arreglar rápidamente, pero la biología humana es mucho menos maleable. Por tanto, lograr que los modelos sean seguros para su lanzamiento requerirá avances en la ciencia fundamental de la IA.
Newsletter
¿Cuánto tiempo queda? Los modelos de IA públicos actuales son muy estudiosos, sacan sobresaliente en los exámenes sobre el papel, pero, afortunadamente, todavía parecen ofrecer poca ayuda práctica a los novatos en la mesa de laboratorio. Sin embargo, Anthropic, el creador de Mythos —no público—, advierte de que pronto podría ser capaz de guiar a los novatos a través de trabajos de laboratorio complicados. Mythos y sus homólogos no han sido sometidos a pruebas de sus habilidades prácticas, lo que significa que podrían tener ya esa capacidad.
Un enfoque prometedor es el equivalente a una cirugía cerebral en los modelos una vez que han sido entrenados
Los modelos con estas capacidades —al igual que las armas nucleares— nunca serán seguros en manos del público. Y las técnicas actuales para hacerlos seguros se quedan cortas. Una opción, por ejemplo, es intentar que rechacen solicitudes peligrosas. Someter estos modelos a jailbreaking, engañándolos para que den respuestas prohibidas, se ha vuelto más difícil, pero en un estudio reciente el 90% de los participantes novatos aún pudieron extraer respuestas sobre virología de modelos que deberían haberse negado a responder. Apostar el futuro de la humanidad a tales defensas sería un error.
Otra medida consiste en excluir los datos peligrosos de las sesiones de entrenamiento de los modelos. SecureBio, un grupo de expertos, sugiere eliminar la información sobre vida en el espacio, la obtención de patógenos vivos, eludir las barreras de biodefensa y evaluar el potencial pandémico. El problema es que un modelo suficientemente capaz puede deducir el conocimiento eliminado a partir de principios fundamentales. Diversos intentos similares de eliminar material de abuso sexual infantil de los datos de entrenamiento de los generadores de imágenes no tuvieron éxito. Un sistema entrenado con imágenes benignas puede representar obscenidades que nunca haya visto.
Placas de Petri que dan miedo
Una tercera idea es centrarse en el mundo físico. Los servicios de seguridad de los gobiernos podrían y deberían prestar más atención a los proveedores de tecnologías, como la síntesis de ADN, que tienen usos tanto legítimos como nefastos. Las normativas de «conozca a su cliente» deberían limitar tales servicios a investigadores consolidados. Sin embargo, crear virus no es como construir una bomba nuclear, lo cual requiere material escaso y rastreable. En biología, utilizar tecnología disponible en el mercado con fines letales es relativamente fácil. El Estado no puede supervisar cada placa de Petri.
Los investigadores responsables deberían poder utilizar la IA para ampliar las fronteras de la ciencia
Por tanto, se necesitarán avances científicos para crear nuevos tipos de salvaguardas. Un enfoque prometedor es el equivalente a una cirugía cerebral en los modelos una vez que han sido entrenados. Otra técnica enseña a los modelos a favorecer respuestas erróneas en algunas áreas; otra más podría consistir en descubrir y desactivar las neuronas que se activan en el trabajo sobre biología sintética, lo cual requeriría avances en la ciencia fundamental de la IA para poder abrir la «caja negra» de las redes neuronales existentes.
Hasta que existan tales técnicas, los gobiernos deben limitar el acceso a los sistemas que podrían facilitar el bioterrorismo, algo especialmente importante en el caso de los modelos de código abierto, que no pueden retirarse una vez difundidos y cuyo uso no puede supervisarse. Los investigadores responsables deberían poder utilizar la IA para ampliar las fronteras de la ciencia —Isomorphic Labs de DeepMind está desarrollando terapias novedosas contra el cáncer, por ejemplo—, pero bajo protocolos de seguridad. No tiene sentido aprovechar la IA para mejorar vidas si al mismo tiempo da a los terroristas el poder de provocar la extinción de la humanidad.
