Et si la prochaine pandémie partait d'un simple prompt tapé sur un clavier plutôt que d'un marché d'animaux vivants ? Il y a trois ans, l'idée relevait encore de la science-fiction. Aujourd'hui, elle préoccupe directement les agences sanitaires et les services de renseignement. Les modèles capables de prédire le repliement d'une protéine en quelques secondes ou de concevoir de nouveaux antibiotiques ont un revers direct : concevoir un agent pathogène dangereux ne demande plus dix ans de thèse, mais quelques heures passées à interroger un grand modèle de langage.

En laboratoire, la biologie de synthèse a changé d'échelle. Au lieu d'enchaîner les essais fastidieux sur boîte de Petri, les chercheurs travaillent désormais sur écran.

Du code informatique au vivant : comment l'IA change la donne

Longtemps, modifier ou fabriquer un virus demandait des connaissances universitaires pointues et des années de pratique à la paillasse. Les outils génératifs réduisent nettement ces deux obstacles. Qu'il s'agisse de modèles de langage nourris de littérature scientifique ou de réseaux prédictifs comme AlphaFold et ESM, ces systèmes fonctionnent comme des accélérateurs de compétences.

Ils interviennent à deux niveaux. D'abord, ils compilent des milliers d'articles pour reconstituer un protocole précis, avec les astuces pour contourner les blocages pratiques lors de la culture d'un micro-organisme. Ensuite, les outils d'apprentissage profond appliqués à la bio-ingénierie peuvent concevoir des séquences génétiques optimisées pour contourner le système immunitaire ou augmenter l'infectiosité d'une souche connue. Des calculs qui prenaient des mois se font en quelques minutes, ce qui met la conception d'un agent pathogène à la portée d'individus isolés ou de petits groupes sans formation poussée.

L'expérience du MIT : des étudiants conçoivent un agent pathogène en 48 heures

Le risque est bien réel. En juin 2023, une équipe du MIT menée par le biologiste Kevin Esvelt a fait le test. Les chercheurs ont demandé à des étudiants sans formation en virologie d'utiliser des agents conversationnels grand public pour voir s'ils pouvaient concevoir un plan de dissémination pandémique.

Le résultat a marqué les esprits. En moins de 48 heures, les modèles ont sélectionné quatre agents pathogènes, expliqué comment commander les séquences d'ADN sans alerter les fournisseurs et détaillé les méthodes pour cultiver les virus avec du matériel domestique. Le système a même suggéré des mutations pour contourner les antiviraux existants. Les étudiants ne sont évidemment pas passés à la pratique, mais l'exercice a montré que la barrière des compétences théoriques s'est effondrée.

Cette vidéo nécessite l'acceptation des cookies réseaux sociaux

Accepter les cookiesGérer mes préférences

When De-Extinction Gets Dangerous: AI, Biosecurity & Synthetic Biology

Le dilemme du double usage : la frontière poreuse entre vaccin et poison

Le problème vient du principe même du double usage. Les algorithmes capables d'imaginer une toxine redoutable sont exactement les mêmes que ceux utilisés pour trouver des anticorps contre le cancer ou concevoir des vaccins à ARN messager.

En mars 2022, des chercheurs de Collaborations Pharmaceuticals l'ont illustré dans la revue Nature Machine Intelligence. En inversant la fonction de récompense de leur algorithme habituel, qui écarte d'ordinaire les composés toxiques lors du tri, le programme a généré plus de 40 000 molécules toxiques en six heures, dont certaines plus létales que le sarin ou le VX. Interdire ces outils ralentirait toute la recherche médicale. La difficulté réglementaire est là : comment limiter les risques sans bloquer le développement thérapeutique ?

Le verrou matériel : pourquoi l'imprimante à ADN reste le juge de paix

Entre une séquence sur écran et un échantillon viable, il reste heureusement une barrière physique : la synthèse d'ADN. Pour que le code numérique (A, T, C, G) devienne un agent infectieux, il faut presque toujours commander les fragments auprès de prestataires spécialisés.

Le coût de synthèse d'une paire de bases est tombé sous les 0,07 €, ce qui rend la production très accessible. En face, l'International Gene Synthesis Consortium (IGSC), qui regroupe les principaux fabricants mondiaux, filtre les commandes. Lorsqu'un client soumet une séquence, un logiciel vérifie automatiquement si elle correspond à des virus surveillés comme la variole, Ebola ou certaines souches de grippe aviaire.

Ce dispositif présente pourtant deux failles. Tous les fabricants de la planète ne font pas partie du consortium, particulièrement dans certaines régions d'Asie ou d'Europe de l'Est où la vérification d'identité des clients reste superficielle. Par ailleurs, l'arrivée d'imprimantes à ADN de paillasse, utilisables en laboratoire sans connexion obligatoire à un serveur de contrôle, permettrait bientôt de synthétiser des gènes directement sur place, sans passer par un intermédiaire audité.

Garde-fous numériques et protocoles : la riposte du secteur

Côté logiciel, les entreprises comme OpenAI, Google DeepMind ou Anthropic ont mis en place des tests d'évaluation spécifiques. Fin 2023, le décret présidentiel américain sur l'intelligence artificielle a d'ailleurs imposé des audits de biosécurité pour les modèles entraînés avec plus de 10^26 opérations en virgule flottante (FLOPs).

Ces acteurs cherchent à bloquer les requêtes sensibles : demander à un modèle commercial comment synthétiser une toxine se solde en principe par un refus. La difficulté concerne plutôt les modèles ouverts. N'importe qui peut télécharger un modèle open source, faire sauter ses filtres ou le ré-entraîner sur des données spécialisées de virologie, ce qui neutralise les protections mises en place au départ.

Vers une biosécurité pragmatique : les chantiers urgents

Les interdictions générales étant peu applicables, la réponse passe d'abord par des mesures concrètes sur la chaîne de production :

Intégrer une puce de contrôle cryptographique dans chaque imprimante à ADN vendue, afin de bloquer directement la synthèse de séquences cataloguées comme dangereuses, même sans connexion internet.

Imposer des contrôles d'identité stricts, comparables aux règles du secteur financier, pour toute commande de matériel génétique à travers le monde.

Filtrer les bases de données publiques avant l'entraînement des modèles ouverts, pour en retirer les recettes de culture et de modification des virus les plus dangereux.

L'application de l'IA à la biologie accélère la recherche médicale et le développement de traitements. Comme pour d'autres technologies à double usage, l'enjeu consiste désormais à faire avancer les contrôles physiques sur le matériel au même rythme que les algorithmes.