Trois chercheurs spécialisés dans l’application de l’intelligence artificielle (IA) à la découverte de médicaments ont démontré, en manipulant leurs propres modèles, qu’il est possible de générer en quelques heures des dizaines de milliers de molécules chimiques potentiellement mortelles, utilisables comme armes.
Un groupe d’informaticiens de Collaborations Pharmaceuticals Inc. (CPI), entreprise focalisée sur les maladies rares, a inversé l’usage habituel de son algorithme de conception de médicaments. En seulement six heures, leur système a produit près de 40000 molécules hautement toxiques, dont certaines proches du VX, l’un des agents neurotoxiques militaires les plus puissants connus mis en scène dans le film The Rock (1996), où des terroristes menacent San Francisco avec des missiles. Le travail a été présenté comme une démarche de red teaming et documenté dans Nature Machine Intelligence (2022) et via son enregistrement PubMed.
Comment l’IA a été détournée
Au lieu de filtrer les structures candidates présentant une toxicité élevée, les chercheurs ont entraîné leur modèle d’apprentissage automatique à maximiser la toxicité en s’appuyant sur des données relatives au VX et à d’autres agents organophosphorés. Le modèle a appris quelles parties de la structure moléculaire du VX contribuent à la toxicité et a recombiné ces motifs avec des molécules générées, retournant une large bibliothèque de composés à risque. Cette expérience fait écho à l’alerte partagée à la conférence Spiez Convergence 2021 et relayée par la presse spécialisée, par exemple Wired.
Le VX et sa dangerosité
Le VX est un organophosphoré inhibiteur de l’acétylcholinestérase. Il provoque une accumulation d’acétylcholine aux synapses, menant à une hyperstimulation puis une paralysie respiratoire. Des synthèses accessibles au public par l’OIAC/OPCW et ses documents techniques (brief VX; agents OP et contre-mesures) détaillent son mode d’action et les mesures de protection. Des fiches toxicologiques et données physico-chimiques sont également disponibles sur les bases de l’US NIH, par exemple PubChem (variantes de VX). Le VX se présente sous la forme de deux énantiomères dont la toxicité peut différer, comme souvent pour les molécules chirales.
Risques et encadrement
Le VX et les autres agents neurotoxiques sont interdits par la Convention sur l’interdiction des armes chimiques, mise en œuvre par l’OIAC. Au-delà de cet interdit, l’épisode CPI souligne un risque de détournement des outils civils d’IA et la nécessité d’un cadre de gouvernance adapté. Pour un contexte historique sur la prolifération et la régulation des armes chimiques : War of Nerves (Jonathan B. Tucker).
Contre-mesures médicales
La prise en charge médicale repose sur des antidotes précis, administrés rapidement :
- Atropine : anticholinergique à effet antimuscarinique. Elle bloque l’action de l’acétylcholine en excès sur les récepteurs, réduisant les sécrétions bronchiques et limitant la bronchoconstriction
- Pralidoxime (2-PAM ou P2S) : réactivateur de la cholinestérase. Il attaque chimiquement le lien formé entre l’enzyme et le VX, restaurant l’activité enzymatique. Son efficacité dépend de la rapidité d’administration, avant que le “vieillissement” de la liaison rende l’inhibition irréversible
- Diazépam : anticonvulsivant. Utilisé pour contrôler les crises et réduire les lésions neurologiques secondaires dues à l’hyperstimulation nerveuse
Outre ces antidotes, des mesures de soutient peuvent comprendre :
- Assistance respiratoire (oxygénation, ventilation mécanique si nécessaire)
- Décontamination cutanée immédiate (solutions absorbantes, lavage à l’eau et au savon ou utilisation de kits spécialisés)
- Surveillance intensive en milieu hospitalier
Sources
- Urbina, F., Lentzos, F., Invernizzi, C., Ekins, S. Dual-use of artificial-intelligence-powered drug discovery, Nature Machine Intelligence • PubMed
- Organisation pour l’interdiction des armes chimiques (OIAC/OPCW) — Qu’est-ce qu’une arme chimique ?
- OPCW — VX : Briefing pour les États Parties (PDF)
- OPCW — Agents neurotoxiques organophosphorés et contre-mesures (PDF)
- NIH PubChem — Russian VX (entrée de référence)
- Tucker, J. B. War of Nerves: Chemical Warfare from World War I to Al-Qaeda — Google Books
- Contexte presse : Wired sur la présentation Spiez Convergence
À lire sur le même sujet
