Face à une possible escalade des conflits géopolitiques, la préoccupation mondiale en matière de sécurité n’a jamais été aussi grande. 2024 pourrait également s’avérer une année charnière pour l’intégration de l’intelligence artificielle (IA) dans les systèmes d’armes nucléaires automatisés.
L’avénement de l’IA dans de très nombreux services a été traité dans l’actualité de manière préoccupante, notamment vis à vis de la menace qu’elle représente pour l’emploi. Les titres particulièrement inquiétants comme “L’IA, nouvelle venue parmi les risques majeurs” ou “Les réels dangers de l’IA” traduisent à la fois nos craintes comme notre fascination pour ces algorithmes hautement spécialisés, générateurs de productivité, de créativité et de suppressions d’emplois.
La défense antimissile est une question cruciale dans le cadre conceptuel de la dissuasion. Celle-ci repose sur le conventionnel comme sur le nucléaire. En la matière, les grandes puissances s’orientent vers une utilisation accrue de l’IA pour accroître les performances opérationnelles de leur réponse. Mais certains s’inquiètent déjà des risques qu’il y aurait à confier aux machines des décisions lourdes de conséquences, comme le lancement d’armes de destruction massive.
La question génère tellement d’inquiétudes qu’elle s’est terminée par la signature du président américain Biden d’un accord exécutif interdisant les systèmes d’IA des armes nucléaires qui donnait suite lui-même à une législation introduite par des membres du Congrès des États-Unis. En juin 2023, Un drone militaire américain piloté par une IA s’était d’ailleurs retourné contre sa tour de contrôle lors d’une simulation. Lors de ce test virtuel, l’AI qui pilotait un drone d’attaque avait décidé de se retourner contre ses donneurs d’ordre afin d’arriver à son objectif final. Elle aurait estimé — selon le propos rapportés par le colonel Tucker Hamilton (Chef des tests et des opérations d’IA avec l’armée de l’air américaine) — que des décisions “interdites” par les militaires de la tour de contrôle interféraient avec sa mission supérieure. Fort heureusement, toute l’expérience menée sur un ordinateur n’avait produit aucun dégât, ni blessé.
Même si les choses semblent en bonne voie pour dresser un cadre diplomatique et réglementaire qui restreindrait l’IA dans les systèmes d’armes nucléaires, toute la culture cinématographique associée a fortement marqué les esprits. En effet, on ne peut évoquer l’intégration de l’IA dans le contexte des armes nucléaires sans penser au “Judgment Day” du film Terminator 1, où le Skynet — créé à l’origine pour automatiser la riposte nucléaire américaine — se dote de conscience et lance une frappe nucléaire mondiale massive.
De WOPR, l’intelligence artificielle du film WarGames (1983) jusqu’à Terminator, de très nombreux films ont traités des IA devenues capables de penser de manière indépendante, et avec leur inéluctable émancipation, des objectifs d’asservissement voire d’extermination des humains. Si les œuvres de fiction populaire ne sont pas toujours des représentations exactes d’une nouvelle science et cumulent de nombreuses inexactitudes scientifiques, il serait inquiétant que de tels systèmes existent.
